Supermicro推出NVIDIA Vera CPU机柜：全液冷式机柜实现大规模代理AI应用
- 刘中兴／台北
-
Supermicro作为AI、企业、存储和5G／边缘领域的全方位IT解决方案，以及Data Center Building Block Solutions（DCBBS）数据中心模块化解决方案的供应商，宣布推出NVIDIA Vera CPU机柜，进一步扩大DCBBS产品组合。
此NVIDIA Vera CPU机柜可为代理式AI、强化学习（Reinforcement Learning；RL）工作负载与数据处理程序，提供高密度CPU运算效能，能够以液冷AI工厂的规模，支持2.25万个沙箱环境。此100%全液冷式CPU机柜可与目前已上市的Supermicro NVIDIA Vera Rubin NVL72互补搭配，能独立运行，也能与NVIDIA Vera Rubin NVL72一起部署于AI工厂，为丛集提供高密度CPU运算效能，进而支持急速上升的代理式AI应用需求。
Supermicro总裁暨CEO梁见后表示：「随着代理式AI技术改变着市场对数据中心的需求，Supermicro透过经完全整合的基础设施，持续扩大DCBBS产品组合。针对需要气冷式部署方案的客户，Supermicro的NVIDIA Vera CPU产品组合除了机柜级液冷配置，也提供气冷式1U与2U系统。我们携手NVIDIA，透过共通的专用型架构，助力让安全、可扩充式的代理式AI应用快速实现落地。」
NVIDIA企业平台副总裁Chris Marriott表示：「随着企业扩大代理式AI与强化学习的应用规模，数千个并行的代理工作流程，需要新一代的高密度CPU基础设施。NVIDIA Vera CPU与BlueField-4 DPU，透过与Supermicro的液冷DCBBS架构进行整合，可为客户提供专用型运算效能和基于硬件的安全防护，进而在AI工厂中扩大代理式工作负载的执行规模。」
驱动代理式AI时代
代理式AI与RL工作负载象徵了运算模式的演进：从线性的推论链，至具有分支并（通常）需要循环执行的流程，以及更多基于CPU可用性与效能的中间执行步骤，GPU仍是生成Token、程序码与查询的主要运算引擎；基于CPU的沙箱环境则负责执行程序、评估结果、运行工具与编排工作流程。具有数百或数千个GPU的现代化AI工厂，需要透过专用型CPU运算资源，支持数千个或数百万个平行执行环境，以顺畅地运行代理程序。
Supermicro打造的NVIDIA Vera CPU机柜整合了256个NVIDIA Vera CPU，每机柜可提供22,528个核心与45,056个执行绪，并支持最高22,500个并行的代理沙箱环境。NVIDIA BlueField-4 DPU提供了高效能网络与电脑模拟（In-Silicon）安全配置，而Supermicro DLC-2直接液冷技术则可为此类工作负载实现100%全液冷式的机柜。
采用第三代MGX机柜与备援电池模块的共通基础设施
Vera CPU机柜采用第三代NVIDIA MGX 设计（DLC-2技术的一环），建立出支持Vera Rubin NVL72的共通基础设施，实现标准化部署。NVIDIA MGX是一套专为加速运算打造的模块化参考架构，能协助系统制造商更快速地设计可与未来应用兼容的系统，并可降低成本、加速产品上市，以及提升投资报酬率（ROI）。
在运算机柜的供电方面，客户可选择使用传统式AC，或800VDC的电源侧柜（Sidecar Power Rack）。此电源侧柜可透过备援电池模块取代传统不断电系统（UPS），并提供断电保护。此设计有助于释出数据中心空间、提升端到端电力转换效率，以及降低资本支出（CapEx）与营运支出（OpEx）。
透过OpenShell参考架构 优先确保代理式AI的安全性
Supermicro打造的NVIDIA Vera CPU机柜原生支持NVIDIA OpenShell参考架构，可支持持续监控并管理代理行为，以延伸Supermicro对安全AI代理的支持。NVIDIA OpenShell透过NVIDIA Vera CPU执行，可对运行中的代理采用最小权限并基于政策的控工艺序。
NVIDIA Sentry则在NVIDIA BlueField-4 DPU上执行，作为带外（Out-of-Band）监控机制，负责执行政策、提供经验证的遥测（Telemetry），并能在毫秒内将超出允许行为范围的代理隔离。这些软件解决方案经相互搭配后，可协助企业在正式运行的代理系统维持可观测性与可稽核性，且不占用主机CPU运算资源。
可选配Vera Rubin NVL72
Vera CPU机柜的设计旨在搭配Vera Rubin NVL72，同时也可独立部署。针对采用Supermicro DCBBS蓝图与NVIDIA Vera Rubin NVL72配置的客户，Supermicro提供一项选配式的设计，可将Vera Rubin NVL72机柜与Vera CPU机柜进行搭配。
此设计基于经定义的网络拓扑，并采用NVIDIA Spectrum-X以太网络、热通道封闭式配置，以及DLC-2架构中的备援机柜列间式冷却液分配单元（CDU）与后门热交换器。无论Vera CPU机柜是与Vera Rubin NVL72搭配，或是独立部署，Supermicro均由同一组团队提供完整服务，包括场地勘查、设计、L11与L12 整合与测试、现场部署，以及后续的支持。
超越NVIDIA Vera Rubin NVL72的弹性式部署
Vera CPU机柜亦可作为独立式CPU平台。独立部署可加速代理的编排与沙箱执行、数据库作业、丛集管理、排程系统（包括Slurm与Kubernetes）、数据分析，以及大规模软件建置流程。
供货信息
Supermicro NVIDIA Vera CPU机柜目前已开放询价。欲了解更多Supermicro的NVIDIA Vera CPU机柜，以及其他基于NVIDIA Vera Rubin平台的解决方案，请造访官网。
