生成式AI网安风险持续增加 OneDegree Global提供AI风险检测服务
- 郑宇渟／台北
-
备受关注的生成式AI，早已成企业推动数码转型的重要科技，期盼借此提升营运效率与强化客户体验。如企业透过生成式AI强化客服系统时，可实现实时理解和回应客户需求，同时能预测并满足潜在需求。只是现今多数业者大部分是以开源大型语言模型为基础，结合专业领域的数据进行训练与推论，所以背后也隐藏不容忽略的风险与网安挑战。
因此，过去几年，世界各国政府纷纷制定相关AI法规。例如，2019年欧盟发布《可信赖人工智能伦理准则》，以确保AI发展遵循共同伦理原则。2021年，欧盟提出《人工智能法》。2022年，美国发布《AI权利法案蓝图》，而加拿大同年提出《人工智能数据法草案》，均着重于建立AI技术发展的原则并建立公众信任。2024年6月，台湾金融监督管理委员会（金管会）发布《金融业运用人工智能（AI）指引》，作为金融产业引进AI的参考。
OneDegree Global资深夥伴关系经理Frank Liao指出，目前AI风险大致可分为两大类。首先是信息安全风险，随着AI成为信息架构的一部分，新增了攻击矢量，例如提示词注入（Prompt Injection）和越狱攻击（Jailbreak）。这类攻击能操纵AI模型输出，当企业将AI整合至各种系统及处理敏感数据时，攻击者便能轻易利用这些攻击手法，导致系统产生未授权存取及敏感数据与个资泄露的风险。
其次是合规风险。由于生成式AI的强大功能，企业依赖AI进行决策及产出内容的比重快速增加，这也引发了AI所作决策及生成内容是否具公平性、符合人本精神及法律规范。我们的Cymetrics Vulcan AI语言模型网安检测平台可有效协助企业应对这些风险，透过全自动化的检测，能将原需200 小时的AI红队演练缩短至 3 小时，以更低的成本与更少的时间，帮助企业确保AI系统在上线前的安全性与合规性。
以AWS Bedrock服务为核心 深入分析客户AI模型风险
OneDegree Global是保险科技的先驱者，为保险业者、中介机构以及应用程序/平台提供现代化的保险核心解决方案，满足新兴市场推动创新的需求，为消费者提供更完整的保障，同时为保险业者开启新的收入来源。因网安威胁与日俱增，该公司在许多方面为保险客户嵌入网安，从自动化网安保险承保流程到支持网安稽核服务。Cymetrics是OneDegree Global网安单位，拥有ISO27001和ISO27017认证，其团队取得全球首批ISO 42001（人工智能管理系统）主导稽核员认证。
Frank Liao指出，尽管近几年AI伦理日益受到重视，各大业者纷纷在大型语言模型中加入相关防堵机制，仍然不时会发生「幻觉」现象。大型语言模型服务除会自行编撰没有来源根据的答案之外，也很容易被有心人士利用提示词破解，以至于造成数据外泄或违反AI伦理。若此类状况发生在公司开发的应用服务上，将导致公司声誉受损、业务损失，甚至遭到主管机关开罚。
OneDegree Global推出的Cymetrics AI语言模型网安检测方案，可协助企业评估网安、隐私、安全性和公平性方面的风险，确保符合负责任AI的标准。该公司可透过完善测试和先进的大型语言模型攻击技术，找出AI系统潜在风险。OneDegree Global会将收集到的AI风险检测数据，藉由Amazon Web Services（AWS）的生成式AI基础模型托管服务Amazon Bedrock上建置生成式AI服务，并进行数据分析，进而提供后续修复与改建的建议。
自动化检测流程 吸引台新银行合作
由于OneDegree Global在大型语言模型检测有独到之处，可透过一套完整的自动化检测机制，将传统200小时检测时间缩短到3个小时完成，因此争取到与台新银行进行概念性验证（Proof of Concept，PoC）。台新银行规划推出为金融服务设计的「台新脑」时，选择引进OneDegree Global服务进行 AI 验证服务，确保其落实金管会的「金融业运用人工智能（AI）指引」，成为台湾金融业首家建立负责任 AI 系统的银行。
在扩大业务面向的前提下，2024年OneDegree Global也正式加入「亚湾新创园高雄 AWS 联合创新中心」计划，透过AWS联合创新中心的资源，将更多的创新解决方案转化为具体商业成果，期盼接触到更多不同产业客户，扩大在全球市场的影响力。
Frank Liao说，在网安事件频频爆发下，企业都意识到网安防护的重要性，也知道生成式AI无法运用防火墙等传统工具进行侦测与保护。我们最大优势在于能针对不同产业特性与需求，定制化一套合适的大型语言模型风险侦测方案。而加入「亚湾新创园高雄AWS联合创新中心」计划后，也透过多场媒合活动，接触到金融业、制造业及半导体等产业，对公司长远发展带来极大帮助。
在OneDegree Global规划中，大型语言模型风险检测业务将以台湾为出发点，积极扩展至亚太及中东地区，这些区域在金融、医疗保健及政府等多个领域，人工智能的应用正迅速成长。随着这些地区越来越重视以AI驱动的创新以及对强大信息安全和合规解决方案的需求，亦提供了显着的商机。未来也将进军欧盟市场，全力抢攻AI商机。
