VMware与NVIDIA为企业开启生成式AI时代

VMware与NVIDIA宣布扩展双方的战略合作夥伴关系，帮助使用VMware云端基础架构的企业做好准备，迎接AI时代的到来。

VMware Private AI Foundation with NVIDIA将使企业能够自订模型并运行各种生成式AI应用，如智能聊天机器人、助理、查找和摘要等。该平台是全整合式解决方案，采用NVIDIA提供的生成式AI软件和加速运算，基于VMware Cloud Foundation构建，并针对AI进行了优化。

VMwareCEORaghu Raghuram表示，生成式AI与多云两者是完美的搭配。客户的数据无处不在，遍布其数据中心、边缘、云端等多处。将与NVIDIA一同协助企业放心地在数据附近运行生成式AI工作负载，并解决其在企业数据隐私、安全和控制方面的问题。

NVIDIA创始人暨CEO黄仁勳表示，世界各地的企业都在竞相将生成式AI整合到自身业务中。透过与 VMware扩大合作，将能够为金融服务、医疗、制造等领域的成千上万客户提供其所需的全栈式软件和运算，使其能够使用基于自身数据定制的应用，充分挖掘生成式AI的潜力。

为更快实现业务效益，企业希望简化并提高生成式AI应用的开发、测试和部署效率。根据麦肯锡的预测，生成式AI每年可为全球经济带来多达4.4万亿美元的成长。

VMware Private AI Foundation with NVIDIA将协助企业充分利用其效能，定制大语言模型，创建供内部使用的更加安全的私有模型，将生成式AI作为一项服务提供给使用者，并更加安全地大规模运行推论工作负载。

该平台将采用的NVIDIA NeMo是NVIDIA AI Enterprise中包含的端到端云原生架构，可协助企业在几乎任何地点构建、自订和部署生成式AI模型。NeMo集自订架构、护栏工具包、数据整理工具和预先训练模型于一身，使企业能够以一种简单、经济且快速的方式来采用生成式AI。

为将生成式AI部署到生产中，NeMo使用TensorRT for Large Language Models（TRT-LLM），以加速并优化NVIDIA GPU上最新LLM的推论效能。透过NeMo，VMware Private AI Foundation with NVIDIA将使企业能够导入自己的数据，并在VMware混合云基础架构上构建和运行自订生成式AI模型。

在VMware Explore 2023大会上，NVIDIA与VMware重点介绍企业内部的开发人员如何使用全新 NVIDIA AI Workbench提取社群模型（例如 Hugging Face 上提供的 Llama 2），对这些模型进行线上自订并在VMware环境中部署生产级生成式AI。

VMware Private AI Foundation with NVIDIA建立在两家公司长达十年的合作基础之上。双方的联合研发成果强化VMware的云基础架构，使其能够以媲美裸机的效能运行NVIDIA AI Enterprise。VMware Cloud Foundation所提供的资源及基础架构管理与灵活性将进一步惠及双方共同的客户。