技嘉推出支持NVIDIA HGX H200平台AI旗舰服务器 智能应用 影音
DTRAIchip
Event

技嘉推出支持NVIDIA HGX H200平台AI旗舰服务器

  • 魏于宁台北

技嘉推出支持NVIDIA HGX H200平台AI旗舰服务器 G593,AI旗舰服务器再升级,显着提升存储器带宽与卓越效能。技钢
技嘉推出支持NVIDIA HGX H200平台AI旗舰服务器 G593,AI旗舰服务器再升级,显着提升存储器带宽与卓越效能。技钢

在生成式人工智能与科学运算的发展之下,大规模数据集的需求日益增加,领先业者无不盼以强大算力驱动科技。因应客户的需要,做为生成式人工智能服务器与先进冷却技术领导者,技嘉科技子公司技钢科技推出两款新的8-GPU服务器,这些服务器支持NVIDIA HGX H200平台,该平台非常适用于大型AI数据集、科学模拟及其他高存储器需求等工作负载。

适用于AI与高效能运算的G593 AI旗舰服务器

G593 AI旗舰服务器系列在GPU冷却的设计上独占鳌头,在紧凑的5U机箱中实现稳定且高要求的效能,并提供强大的气流以解决惊人运算密度所带来的热能。

NVIDIA H200 Tensor核心GPU与禁得起考验的GIGABYTE G593 8-GPU基板服务器系列完美结合。相较于NVIDIA H100 Tensor核心GPU,NVIDIA H200 GPU在存储器容量和带宽上有显着提升,具高达141GB的HBM3e存储器和4.8TB/s的存储器带宽,分别增加了1.7倍的存储器容量和1.4倍的吞吐量。

新款技嘉GPU AI旗舰服务器

一、G593-SD1-AAX3:支持第5代Intel Xeon 可扩充处理器
二、G593-ZD1-AAX3:支持AMD EPYC 9004系列处理器,多达96个CPU核心

透过精密的调整与设计,除了CPU平台之外,这些新款服务器有着类似的布局和规格,以适应加速运算的各种应用需求。这些服务器将列在NVIDIA合格系统目录中,更包括先前四款已通过NVIDIA认证系统™的G593 AI旗舰服务器系列,有极佳的功能性与效能表现。

G593 AI旗舰服务器系列具备高水准的网络和储存能力。支持最多8个U.2 Gen5 NVMe SSD,该系列可以使用NVIDIA GPUDirect Storage(NVIDIA Magnum IO技术之一)快速处理数据,实现从GPU存储器到储存的直接路径,提升带宽且降低延迟。为了连接丛集中的其他服务器或进行数据中心外的数据传输,提供了12个扩展插槽,支持透过NIC或DPU进行NVIDIA InfiniBand或以太网络连接。此外,更配置了4+2 3000W冗余电源,提供充足的电力和可靠的持续运行。

GIGAPOD:机架级整合解决方案

近期AI带来科技的飞速进步,从企业到学术界都在引颈期盼最新发展,大型运算丛集的设计对人工智能的发展就显得至关重要。技嘉自2023年推出了其机架级解决方案GIGAPOD,并使用NVIDIA HGX系统的部署大获成功。目前,GIGAPOD均使用G593 AI旗舰服务器系列来整合NVIDIA HGX H100。随着产品线扩展支持至NVIDIA H200 GPU,GIGAPOD将帮助客户实现更高的效能和效率,大举加速运算流程。