Check Point、Lakera与英国AISI联手开创AI安全新标竿

Check Point Software 携手近期收购、专注于Agentic AI应用的AI原生安全平台Lakera，以及英国人工智能安全研究所（简称AISI）共同宣布推出开源安全评估工具：骨干破坏基准测试（backbone breaker benchmark；后称b3），此工具是专为AI代理（AI agent）中的大型语言模型（LLM）安全性而设计。

b3奠基于「威胁快照（threat snapshots）」的新概念上，聚焦于LLM最容易出现漏洞的关键节点进行测试，使开发者和模型供应商能无需建构完整且复杂的代理工作流程，即可评估其系统真实对抗安全挑战时的抗压能力。

Check Point旗下的Lakera联合创始人暨首席科学家Mateo Rojas-Carulla表示，打造b3安全基准测试是因为当今AI代理的安全性完全取决于其背后的LLM模型，威胁快照功能使我们能系统性地揭露那些至今仍隐藏在复杂代理工作流程中的漏洞。我们透过将这项基准测试开放给全球使用者，使开发者和模型供应商能以实际可行的方法衡量并提升安全态势。

此基准测试结合10个具代表性的代理「威胁快照」，以及透过游戏化红队对抗平台Gandalf：Agent Breaker收集的19,433笔高品质群众外包（crowdsourced）对抗攻击数据集，用以评估系统对各类攻击的易受性，包括系统提示外泄、钓鱼连结植入、恶意程序码注入、拒绝服务攻击以及未授权工具调用等。