专为生成式 AI 量身设计 新一代 Dell PowerEdge 服务器现身 智能应用 影音

专为生成式 AI 量身设计 新一代 Dell PowerEdge 服务器现身

  • 美通社

兼具高效能、绝佳散热机制 满足多元应用场景

专为生成式AI量身设计的多款新一代 Dell PowerEdge 服务器,不光采用新一代Intel® Xeon® 可扩充处理器、 Max GPU 系列芯片,也融合通过验证的先进气流设计,拥有绝佳运算能力与冷却效果,是推动生成式AI专案最佳平台,至今已在市场累积众多成功案例。

生成式 AI(Generative AI)浪潮席卷全球,被众多专家喻为是近10年驱动创新发展的重要技术。根据戴尔科技集团公布「Generative AI Pulse Survey」报告指出,有高达76% IT主管指出生成式AI在生产力提升、优化流程、节约成本等部分有极大帮助,对公司长远发展扮演极重要的角色。

监于现今企业正加速推动生成式AI专案,戴尔科技集团推出多款支持 AI 技术的新一代Dell PowerEdge 服务器,分别是通用型的R系列,如 PowerEdge R760、PowerEdge R660、PowerEdge R760xa、PowerEdge R960、PowerEdge R860等,以及具备高效能运算能力的PowerEdge XE9680、PowerEdge XE9640、PowerEdge XE8640等。至于XR 系列产品,则主打可将 AI 带到边缘之中,企业可依据自身需求与预算选择合适的机种。

戴尔科技集团资深技术顾问黄敏俊指出,在生成式AI浪潮席卷全球之际,戴尔科技集团在运用AI拓展自身业务外,也将 AI 内建于产品或解决方案中 ,如本次推出多款支持AI技术的新一代 Dell PowerEdge 服务器,让企业能执行各种 AI专案,维持在产业中的领导地位。目前新一代 Dell PowerEdge 服务器,已经被广泛应用于众多产业之中,如以数码广告闻名的日本 CyberAgent、以色列政府重金打造的 Israel-1 超级电脑等。

效能与冷却系统创新 吸引企业用户目光

生成式 AI 在众多领域展现无所不能的关键,在于运用大语言模型搭配千亿以上数据进行训练,这也代表企业必须具备运算能力强悍的 AI 服务器。考量不同应用情境需求迥异,加上模型训练、模型推论、模型微调等阶段的算力需求不同,戴尔科技集团在产品设计过程中也融入许多巧思。首先,新一代 Dell PowerEdge 服务器采用 Intel®推出的第 4 代 Intel® Xeon® 可扩充处理器,该处理器内建可用于多种工作负载的各式加速器引擎,其中 R760xa/R760/R660/XE9680/XE9640/XE8640 最多可安装两颗CPU处理器,R860和R960等产品最多可安装四颗CPU处理器,能满足一般的 AI-ML/DL 训练与推论需求。

在 GPU 芯片部分,新一代 Dell PowerEdge 伺服可安装 Intel® Data Center Max GPU 系列芯片,有 1100 GPU、1550 GPU等 类型,以及 Flex 140 可选择,其中最高等级的1550 GPU最高拥有 128 个Xe 核心与 128GB HBM 存储器,整体效能非常惊人。除此之外,企业可依照专案需求,选择辉达的 A100、H100 系列芯片,以及超微的 MI300x 等芯片,确保AI专案执行效益与整体费用支出。

黄敏俊说,近几年受惠于半导体迈向先进制程,CPU、GPU 等算力也随之提升,但整体耗电量也比过去提升不少,因此我们在整机设计上下了许多苦心。新一代Dell PowerEdge 服务器有独步市场的三大特色,第一点是上一代服务器相比,整体能耗强度降低 83%。以新一代Dell PowerEdge R760为例,只需 8 台即可创造出与 50 台 13代 Dell PowerEdge  R730 相同的算力。第二点特色为采用通过验证的先进气流设计,搭配智能控制和最新一代风扇、散热器,可创造出绝佳的冷却效果。在企业环境许可下,部分机种可选择更先进的直接液体冷却 ( DLC )或浸没式冷却解决方案等散热解决方案。整体来说可节省84%机柜空间,省下60%处理器的电力费用支出。

第三点特色,戴尔科技集团提供独家开发的 Live Optics Server KPI Comparison Tool ,让企业预估未来升级到新一代 Dell PowerEdge 服务器后,公司在机柜、能源、维运费用的节约状况,有助企业落实 ESG 策略。

融合众多创新设计 AI专案最佳平台

在支持广泛的 CPU、GPU 类型,采用新一代冷却散热系统之外,新一代 Dell PowerEdge服务器在全球市场备受企业欢迎关键,还有众多创新设计,如采用新一代 PERC12 控制器,整体效能比 PERC11 高 2 倍、PERC10 高 4倍。另外,产品支持新时代的 EDSFF E3.S NVMe Gen5 ,在优异封装技术加持下,能为服务器提供更高储存密度、更优异散热能力,同时整体效能比 NVMe Gen 4 提高一倍 。

黄敏俊表示,在前述软硬件等多种创新设计之外,我们也提供 iDRAC9 管理工具,助IT人员能精准掌握服务器运作状况,同时享有降低工作负担、维运费用等优点。根据统计,5年整体维运费用可节省达到8万美元,这是非常可观的数字。

在企业推动数码转型过程中,生成式AI已成为不可或缺的重要动能。专为生成式AI量身设计的新一代Dell PowerEdge 服务器,在采用新一代Intel®处理器、 Intel® Data Center GPU Max 系列之外,也同时考量到整体散热与维运成本等,堪称是企业启动AI专案的最佳平台。