全球领先系统制造商将推出NVIDIA人工智能就绪服务器
- 范菩盈／台北
-
NVIDIA日前宣布全球领先系统制造商将提供人工智能就绪服务器，支持今日另行发表的VMware Private AI Foundation with NVIDIA，帮助企业使用其专有业务数据自定和部署生成式AI应用程序。
NVIDIA人工智能就绪服务器将具备NVIDIA L40S GPU、NVIDIA BlueField-3 DPU和NVIDIA AI Enterprise软件，使企业能够微调生成式人工智能基础模型，并部署像是智能聊天机器人、查找和摘要工具等生成式人工智能的应用。这些服务器还提供了NVIDIA加速的基础设施和软件，为VMware Private AI Foundation with NVIDIA提供动力。
由全球领先系统制造商戴尔科技集团、慧与科技和联想推出搭载NVIDIA L40S GPUs的服务器将于年底前上市，以加速企业的人工智能应用。
NVIDIA创始人暨CEO黄仁勳表示：「一个新的运算时代已经开始。各产业的企业都在竞相采用生成式人工智能。透过我们全球领先软件和系统合作夥伴生态系统，我们将生成式人工智能带给全球的企业。」
NVIDIA人工智能就绪服务器对部署VMware Private AI Foundation with NVIDIA的企业来说，是一个理想的平台。
VMwareCEORaghu Raghuram表示：「生成式人工智能正在加速数码转型，企业需要一个完全整合的解决方案更安全的建构应用程序，从而推动业务发展。透过结合VMware、NVIDIA和我们服务器制造夥伴的专业，企业能够开发和部署具有数据隐私、安全和控制能力的人工智能。」
推动企业生成式AI转型
NVIDIA人工智能就绪服务器旨在为竞相采用生成式 AI 进行广泛应用的各产业提供全套的加速基础设施和软件，包括药物发现、零售产品描述、智能虚拟助理、制造模拟和欺诈检测。
这些服务器采用NVIDIA人工智能平台操作系统 NVIDIA AI Enterprise，该软件为准备就绪即可部署上线的企业提供超过100种框架、预训练模型、工具套件和软件的支持和安全性。这些框架、预训练模型、工具包和软件包括用于大型语言模型的NVIDIA NeMo、用于模拟的NVIDIA Modulus、用于数据科学的NVIDIA RAPIDS和用于生产人工智能的NVIDIA Triton推论服务器。
L40S GPU是专为处理具有数十亿个参数的复杂人工智能工作负载而设计，搭载第四代Tensor Core和FP8 Transformer Engine，与NVIDIA A100 Tensor Core GPU相比，可提供超过1.45 petaflops 的处理能力并可提升最高达1.7 倍的训练效能。
对于像是智能聊天机器人、助理、查找和摘要等生成式人工智能应用，NVIDIA L40S的生成式人工智能推论效能比NVIDIA A100 GPU 高出1.2倍。
整合NVIDIA BlueField DPU可透过加速、卸载和区隔虚拟化、网络、储存、安全和其他云原生人工智能服务所带来的庞大运算工作负载，进一步提高速度。
NVIDIA ConnectX-7 SmartNIC提供先进的硬件卸载和超低延迟，为数据密集型的生成式人工智能工作负载提供一流的可扩充效能。
广大的生态系统加速企业生成式人工智能的部署
全球领先的电脑制造商正在打造NVIDIA人工智能就绪服务器，其中包括戴尔PowerEdge R760xa、慧与科技 VMware Private AI Foundation with NVIDIA用ProLiant Gen11服务器以及联想ThinkSystem SR675 V3。
戴尔科技集团董事长暨CEOMichael Dell表示：「生成式人工智能是创新的催化剂，帮助解决世界上最紧迫的挑战。戴尔使用NVIDIA 人工智能就绪服务器平台的生成式人工智能解决方案，将带来前所未有的生产力并彻底改变产业营运的方式，在人类发展进程上发挥关键角色。」
慧与科技总裁暨CEOAntonio Neri表示：「透过生成新的见解、设计和解决方案，生成式人工智能有能力从数据中创造新的价值，是数码转型的下一个发展机会。我们很高兴与NVIDIA紧密合作，于企业调整和推论工作解决方案中使用其GPU和软件，加速部署生成式人工智能。」
联想集团董事长暨CEO杨元庆表示：「企业渴望采用生成式人工智能来推动智能创新，联想与NVIDIA和VMware合作将进一步扩大我们在生成式人工智能领域的领导地位，并巩固我们在客户人工智能之旅中提供协助的独特定位。」
搭载L40S GPU和BlueField DPU 的NVIDIA AI Enterprise就绪服务器将会在年底上市，云端服务供应商预计于数月之后将提供执行个体。
欲了解更多信息，请浏览官网。
