网安院长何全德:以「CA+Abuse」强化GenAI风险治理 智能应用 影音
Event
member

网安院长何全德:以「CA+Abuse」强化GenAI风险治理

  • 郑茨云台北

网安院何全德院长于DIGITIMES首届网安峰会分享主题演讲「新时代AI对网安治理的挑战与契机」。DIGITIMES摄
网安院何全德院长于DIGITIMES首届网安峰会分享主题演讲「新时代AI对网安治理的挑战与契机」。DIGITIMES摄

据KPMG 2024全球CEO调查报告显示,随着科技迅速发展、数码/净零双轴转型浪潮席卷,导致72%的CEO坦言要确保企业长期繁荣的压力骤增,因而纷纷簇拥生成式AI(GenAI),促使AI Agent跃为当今最火红议题。

国家资通安全研究院院长何全德于9月25日至9月26日由DIGITIMES所举办的网安峰会中提到,「GAI带给人类前所未有的效率、效能与智力的全面钜变,所以台湾亟欲将此技术应用推向各行各业」,AI没有做不到、只有想不到,它将引发众多创意,为台湾带来绝佳机遇。比方说藉助不同AI方案助益永续发展,乃至协助百工百业解决过往滞碍难解的问题。

何全德说,尽管科技为人类带来进步,但同时带来风险,所以各行各业导入AI时切记两个S,一是Speed、另一是Security,二者皆须兼顾。换言之GenAI风险治理课题着实至关重要,当我们推动AI时,要设法安全地利用AI潜力,且最大限度降低相关风险。

那麽深具潜在变革性优势的GenAI,与传统软件相比,究竟可能带来哪些独特或加剧的风险?具体来说,传统软件基于程序逻辑,人们很容易预测其输出;反观动辄以数千亿参数产生的大语言模型(LLM),无人能掌握它如何应运而生,若攻击者用不准确信息毒害训练数据,恐导致人们做出灾难性决策。

鉴于此,主要国家和组织正协力合作,期望界定AI风险,以利执行分类分级治理。最显着之例,在于MIT近期成立AI Risk Repository,将风险划分为43个架构,并已发现逾700项风险。欧盟亦以风险管理为基底,颁布人工智能治理法案。这些都为台湾带来莫大启发,若欲制定AI治理法规,应审慎思考其弹性与范围,要保护人民基本权益、或促进产业发展。

何全德认为,不管谈到GenAI或Predict AI风险治理,除应关注传统信息安全CIA要领外,另须留意Abuse或Misuse问题。譬如需要思考如何解决AI幻觉「不尽真确」的议题,及如何确保AI系统与人类价值对齐的议题。

数发部援引NIST的「有效与可靠是AI可信任的基石」论点,已经在2023年委托工研院与网安院合作催生AI产品与系统评测中心。此外高度关注2024 RSA大会呈现的网安产业AI化趋势,包括「AI驱动网安防护是产业创新应用主流」、「网安营运暨监控中心(SOC)智能化俨然市场主角」等关键课题,亟思利用AI加强分析与预测威胁情资、侦测异常行为,乃至实现自动化安全测试及事件调查。

总括而论,拥抱AI时,务必睁大眼睛,冷静思考,谨守Think Big、Start Small与Scale Fast原则,让台湾逐步蜕变为征战全球小而精强的非洲黑脚猫。

关键字