NVIDIA推开放式AI代理安全平台 强化AI代理从测试到部署的安全性

NVIDIA宣布推出NVIDIA开放式AI代理安全平台（NVIDIA Open Agent Safety Platform），这是一套由开放式软件平台与参考系统设计组成的解决方案，旨在强化人工智能（AI）代理从测试到部署各阶段的安全性，并针对软件以及执行AI代理的硬件、运算与机器人系统，提供全端治理与控制。

近期发生的安全事件凸显了组织需要开放且可定制化的工具，以对长时间运行的AI代理进行更严格的控管。这些事件都呈现出了相同的模式，即为AI代理绕过应用程序层的安全控制，以完成其被指派的任务。

NVIDIACEO黄仁勳表示：「唯有解决AI的安全问题，AI为社会带来的庞大潜力才能真正实现。随着我们持续探索AI能力的前沿，也必须加速推进对AI安全领域的探索。安全与网安需要全端工程。NVIDIA开放式AI代理安全平台汇聚产业界、研究机构与公部门组织，共同分享最佳实务、协调评估方法并促进国际合作。透过合作，我们可以为全球AI安全树立更高标准。」

开放式AI代理安全平台 全面强化AI代理堆叠控制能力

NVIDIA开放式AI代理安全平台可针对执行AI代理的软件、支持其运作的硬件与运算层，以及在实体环境中执行任务的机器人系统，提供全端治理与控制。组织可依自身需求部署NVIDIA开放式AI代理安全平台的各项元件。

其中包括NVIDIA OpenShell安全执行环境软件，可为在CPU上运行的AI代理设定边界。随着AI代理跨越更多系统、承担更多工作，企业需要在模型与代理执行框架外，建立可强制执行的安全边界。OpenShell现已全面推出，可提供安全的执行时边界，控制自主AI代理如何运用开放与封闭模型执行任务。

OpenShell可在NVIDIA Vera上以极低的负担提供此项防护。NVIDIA Vera是首款专为代理型AI打造的CPU。OpenShell与Vera结合，可让AI代理在安全运行的同时，尽可能快速完成工作。作为开源软件，OpenShell亦可扩展支持第三方运算平台，包括ARM与英特尔的平台。

NVIDIA开放式AI代理安全平台的参考系统设计采用NVIDIA Sentry。这是一套运行于NVIDIA BlueField-4 DPU的频外监控机制，可持续监控AI代理行为。 Sentry提供芯片内建安全执行机制，当AI代理试图超出其软件边界时，可在毫秒内将其隔离并停止运行。

Sentry运行于BlueField-4 DPU上，可持续监控AI代理活动，并直接在芯片中独立执行安全政策。Sentry透过隔离的频外信任网域，整合威胁侦测、以硬件为基础的AI代理治理与政策执行，以及数据存取保护，不仅能实时回应，也可避免被AI代理与攻击者察觉。

Sentry以NVIDIA DOCA软件为基础。DOCA提供Sentry所需的可程序化能力，使其能检查AI代理的要求与回应、提供可验证的遥测信息、验证代理身份，并针对数据、工具、应用程序设计界面与服务执行细致的零信任存取政策。

产业领导者与NVIDIA合作  强化代理安全

Anthropic与NVIDIA共同合作，为AI代理堆叠加入更多层次的安全与控制机制。Claude Managed Agents 透过将代理循环与执行其工作的沙箱分别部署于不同服务器，建立安全边界。透过整合OpenShell与BlueField，企业可对AI代理经由这些沙盒进行的存取实施严格控管。

Anthropic商务长Paul Smith表示：「企业正将愈来愈多重要工作交由AI代理处理，因此需要能够指引并验证AI代理的行为，尤其在敏感环境中。Claude Managed Agents可让企业清楚掌握每个AI代理正在执行的工作，而NVIDIA的平台则进一步在硬件与软件层面增加治理与控制。」

SpaceXAI正将NVIDIA开放式AI代理安全平台用于Cursor程序设计代理与Grok模型。

SpaceXAI总裁Mike Nicolls表示：「随着客户愈来愈仰赖AI代理处理实际工作，安全机制就应在模型之外，透过AI代理无法绕过的额外控制措施加以落实。客户应能为Cursor与Grok设定这些限制，并相信这些限制会持续有效。」

Scale AI正与NVIDIA合作，将NVIDIA开放式AI代理安全平台技术整合至Scale GenAI Portfolio的代理型基础设施层。

Scale AICEOFrancis deSouza表示：「Scale AI正运用NVIDIA开放式AI代理安全平台参考设计，为执行关键任务应用的企业与政府客户打造可靠的代理型AI系统，并从一开始就纳入隔离、政策执行与可稽核性。我们透过明确的边界定义AI代理可以执行的工作，并利用控制机制确保AI代理持续在这些权限范围内运作，以强化代理型AI安全。」

Salesforce与NVIDIA已将OpenShell与Slack整合，让团队可直接透过Slack管理OpenShell AI代理活动，包括查看代理活动与稽核事件，以及核准或拒绝AI代理提出的额外权限要求，让团队在AI代理执行工作时，能获得更高的可视性与人工监督能力。

思爱普正将OpenShell整合至Joule Studio执行阶段。Joule Studio为思爱普Business AI Platform的一部分，可将企业监督与执行阶段安全相结合。思爱普也正投入OpenShell的工程开发，并与NVIDIA透过开放安全AI联盟（Open Secure AI Alliance）共同推动互通性标准。

埃森哲、ARMadin、益华电脑、Cognition、CrowdStrike、思科、达梭系统、勤业众信、安永、Hugging Face、 IBM、Irregular、Perplexity、微软、思爱普、Scale AI、ServiceNow、西门子、新思科技、OpenClaw、Palantir与Palo Alto Networks等，也位列使用NVIDIA开放式AI代理安全平台技术的100多家组织之中。

Figure、Gecko Robotics与Skild AI等机器人领域领导业者，也正采用OpenShell，将AI代理安全控制导入能在实体世界采取移动的自主系统。

花旗与摩根大通等金融服务领导企业，则正与NVIDIA合作，共同推动开源AI代理安全技术。

日立永续能源、美国电力研究院、NextEra Energy、Quanta Services、日本住友精密、施耐德电机、西门子能源与沃利帕森等能源业者，也都是正采用NVIDIA开放式AI代理安全平台技术的美国关键基础设施供应商。

科能、SUSE与Red Hat等基础设施软件领导者，也正将NVIDIA开放式AI代理安全平台整合至广泛采用的软件操作系统。Red Hat在Red Hat AI Factory with NVIDIA上执行OpenShell与DOCA，两者皆为NVIDIA 开放式AI代理安全平台的一部分。Red Hat AI Factory with NVIDIA是由双方共同开发的企业级AI解决方案，可协助企业在混合云环境中大规模建置、部署与管理AI。

包括Baseten、思科、CoreWeave、戴尔科技集团、GMI Cloud、慧与科技、惠普、Irregular、联想、微软、Nebius、Oracle Cloud Infrastructure、美超微与Together AI在内的NVIDIA合作夥伴，也都提供采用并支持NVIDIA开放式AI代理安全平台技术的AI基础设施解决方案，协助客户更安全地执行AI代理。