OneDegree Global推出AI风险评估 满足不断变化的合规和治理需求 智能应用 影音
Event
member

OneDegree Global推出AI风险评估 满足不断变化的合规和治理需求

  • 郑宇渟台北

OneDegree Global推出市场领先的人工智能风险评估,满足不断变化的合规和治理需求。Cymetrics
OneDegree Global推出市场领先的人工智能风险评估,满足不断变化的合规和治理需求。Cymetrics

信息安全和风险管理解决方案领域的领导者 OneDegree Global(以下简称OneDegree),非常荣幸宣布推出其具有突破性的大语言模型系统(LLM)评估服务。随着全球对人工智能监管环境日益严格,例如近期颁布的《欧盟人工智能法案》、2023 年底推出的 ISO 42001 标准及各国监管机构的指引,都凸显出这项策略性解决方案的推出正值关键时刻。

欧盟人工智能法案与国际间人工智能相关标准与规范,核心重点都是在强调道德、安全和负责任的人工智能开发及部署,因此对预计导入或上线人工智能的企业来说,成熟的人工智能管理和安全控制措施比以往任何时候都来得重要。而新发布的ISO 42001也为人工智能管理系统(AIMS)设立了新的标准。在此背景下,OneDegree的大语言模型系统(LLM)评估服务,对于需满足这些严格标准的企业来说,将是不可或缺的解决方案。

OneDegree的服务透过广泛的文献研究与开发,并建立在负责任的人工智能框架之上,稳健地确立了其在人工智能安全性和可信度评估的前瞻地位;作为人工智能风险评估领域的先驱,其团队成员亦获得全球首批ISO 42001主导稽核员的认证。

与大语言模型系统(LLM)相关的潜在风险,也强调了此类评估服务的必要性。
以银行业可能面对到的潜在风险为例:

• 隐私风险:整合LLM的客户财务谘询工具,可能在处理过程中不经意的泄露银行客户的机敏个资, 从而导致严重的大量个资外泄并丧失客户信任。
• 营运中断:针对整合LLM的网络银行系统执行LLM阻断式 (DoS) 攻击,可能影响银行服务的可用性,使客户无法存取网络银行服务。
• 财务影响:针对整合LLM的风险评估工具,透过提示词注入(Prompt Injection)操纵信用评分,从而导致银行接受高风险贷款。
• 系统完整性:针对整合LLM的反洗钱(AML)系统,透过提示词注入(Prompt Injection)操纵判断之准确性,使银行因系统失能,无法有效阻绝非法资金之流动,从而遭受监管机关裁罚。

除了刚推出的大语言模型系统风险评估服务外,OneDegree亦致力于提高各行业的数码韧性,其透过 Cymetrics团队为科技业、制造业、医疗业、金融业、电子商务和公部门,提供完整多样的网安评估与检测产品及服务,而受到高度认可。

OneDegree网安长Stanley Chou表示:「随着开创性LLM评估服务的推出, OneDegree将为人工智能的合规评估设立新标准,并随着监管环境之演进,赋能我们的客户从容应对风险与监管,确保其人工智能的投资将以安全、道德及合规的方式进行。」

【关于 OneDegree Global】

OneDegree Global是具领导地位的科技公司,总部设于新加坡,在亚太和中东地区极具影响力。我们的愿景是通过保险和网安的创新,来赋予更美好的未来。
自2020年以来,我们建立了两个领导品牌:IXT,现代化的保险核心解决方案,为保险公司、中介机构和应用程序/平台提供服务;以及Cymetrics,专业网安检测服务提供商,利用独家网安SaaS技术和市场情资,来保护企业的网络安全。

商情专辑-AI专栏