网安院长何全德：以「CA＋Abuse」强化GenAI风险治理

网安院何全德院长于DIGITIMES首届网安峰会分享主题演讲「新时代AI对网安治理的挑战与契机」。DIGITIMES摄

据KPMG 2024全球CEO调查报告显示，随着科技迅速发展、数码／净零双轴转型浪潮席卷，导致72%的CEO坦言要确保企业长期繁荣的压力骤增，因而纷纷簇拥生成式AI（GenAI），促使AI Agent跃为当今最火红议题。

国家资通安全研究院院长何全德于9月25日至9月26日由DIGITIMES所举办的网安峰会中提到，「GAI带给人类前所未有的效率、效能与智力的全面钜变，所以台湾亟欲将此技术应用推向各行各业」，AI没有做不到、只有想不到，它将引发众多创意，为台湾带来绝佳机遇。比方说藉助不同AI方案助益永续发展，乃至协助百工百业解决过往滞碍难解的问题。

何全德说，尽管科技为人类带来进步，但同时带来风险，所以各行各业导入AI时切记两个S，一是Speed、另一是Security，二者皆须兼顾。换言之GenAI风险治理课题着实至关重要，当我们推动AI时，要设法安全地利用AI潜力，且最大限度降低相关风险。

那麽深具潜在变革性优势的GenAI，与传统软件相比，究竟可能带来哪些独特或加剧的风险？具体来说，传统软件基于程序逻辑，人们很容易预测其输出；反观动辄以数千亿参数产生的大语言模型（LLM），无人能掌握它如何应运而生，若攻击者用不准确信息毒害训练数据，恐导致人们做出灾难性决策。

鉴于此，主要国家和组织正协力合作，期望界定AI风险，以利执行分类分级治理。最显着之例，在于MIT近期成立AI Risk Repository，将风险划分为43个架构，并已发现逾700项风险。欧盟亦以风险管理为基底，颁布人工智能治理法案。这些都为台湾带来莫大启发，若欲制定AI治理法规，应审慎思考其弹性与范围，要保护人民基本权益、或促进产业发展。

何全德认为，不管谈到GenAI或Predict AI风险治理，除应关注传统信息安全CIA要领外，另须留意Abuse或Misuse问题。譬如需要思考如何解决AI幻觉「不尽真确」的议题，及如何确保AI系统与人类价值对齐的议题。

数发部援引NIST的「有效与可靠是AI可信任的基石」论点，已经在2023年委托工研院与网安院合作催生AI产品与系统评测中心。此外高度关注2024 RSA大会呈现的网安产业AI化趋势，包括「AI驱动网安防护是产业创新应用主流」、「网安营运暨监控中心（SOC）智能化俨然市场主角」等关键课题，亟思利用AI加强分析与预测威胁情资、侦测异常行为，乃至实现自动化安全测试及事件调查。

总括而论，拥抱AI时，务必睁大眼睛，冷静思考，谨守Think Big、Start Small与Scale Fast原则，让台湾逐步蜕变为征战全球小而精强的非洲黑脚猫。