OneDegree Global推出AI风险评估 满足不断变化的合规和治理需求

OneDegree Global推出市场领先的人工智能风险评估，满足不断变化的合规和治理需求。Cymetrics

信息安全和风险管理解决方案领域的领导者 OneDegree Global（以下简称OneDegree），非常荣幸宣布推出其具有突破性的大语言模型系统（LLM）评估服务。随着全球对人工智能监管环境日益严格，例如近期颁布的《欧盟人工智能法案》、2023 年底推出的 ISO 42001 标准及各国监管机构的指引，都凸显出这项策略性解决方案的推出正值关键时刻。

欧盟人工智能法案与国际间人工智能相关标准与规范，核心重点都是在强调道德、安全和负责任的人工智能开发及部署，因此对预计导入或上线人工智能的企业来说，成熟的人工智能管理和安全控制措施比以往任何时候都来得重要。而新发布的ISO 42001也为人工智能管理系统（AIMS）设立了新的标准。在此背景下，OneDegree的大语言模型系统（LLM）评估服务，对于需满足这些严格标准的企业来说，将是不可或缺的解决方案。

OneDegree的服务透过广泛的文献研究与开发，并建立在负责任的人工智能框架之上，稳健地确立了其在人工智能安全性和可信度评估的前瞻地位；作为人工智能风险评估领域的先驱，其团队成员亦获得全球首批ISO 42001主导稽核员的认证。

与大语言模型系统（LLM）相关的潜在风险，也强调了此类评估服务的必要性。
以银行业可能面对到的潜在风险为例:

• 隐私风险：整合LLM的客户财务谘询工具，可能在处理过程中不经意的泄露银行客户的机敏个资， 从而导致严重的大量个资外泄并丧失客户信任。
• 营运中断：针对整合LLM的网络银行系统执行LLM阻断式 (DoS) 攻击，可能影响银行服务的可用性，使客户无法存取网络银行服务。
• 财务影响：针对整合LLM的风险评估工具，透过提示词注入（Prompt Injection）操纵信用评分，从而导致银行接受高风险贷款。
• 系统完整性：针对整合LLM的反洗钱（AML）系统，透过提示词注入（Prompt Injection）操纵判断之准确性，使银行因系统失能，无法有效阻绝非法资金之流动，从而遭受监管机关裁罚。

除了刚推出的大语言模型系统风险评估服务外，OneDegree亦致力于提高各行业的数码韧性，其透过 Cymetrics团队为科技业、制造业、医疗业、金融业、电子商务和公部门，提供完整多样的网安评估与检测产品及服务，而受到高度认可。

OneDegree网安长Stanley Chou表示：「随着开创性LLM评估服务的推出， OneDegree将为人工智能的合规评估设立新标准，并随着监管环境之演进，赋能我们的客户从容应对风险与监管，确保其人工智能的投资将以安全、道德及合规的方式进行。」

【关于 OneDegree Global】

OneDegree Global是具领导地位的科技公司，总部设于新加坡，在亚太和中东地区极具影响力。我们的愿景是通过保险和网安的创新，来赋予更美好的未来。
自2020年以来，我们建立了两个领导品牌：IXT，现代化的保险核心解决方案，为保险公司、中介机构和应用程序/平台提供服务；以及Cymetrics，专业网安检测服务提供商，利用独家网安SaaS技术和市场情资，来保护企业的网络安全。