技嘉科技于OCP全球峰会引领AI变革 驱动你我未来的生活 智能应用 影音
工研院
英特内

技嘉科技于OCP全球峰会引领AI变革 驱动你我未来的生活

  • 魏于宁台北

技嘉科技于OCP全球峰会引领AI变革,驱动你我未来的生活。技嘉科技
技嘉科技于OCP全球峰会引领AI变革,驱动你我未来的生活。技嘉科技

作为生成式AI服务器与先进散热技术的业界领导者,技嘉科技旗下子公司,技钢科技参加在美国圣荷西举办为期三天的OCP全球峰会(OCP Global Summit 2024),展示各种规模数据中心与工作负载所需的最新AI硬实力。在技嘉的A26展位将呈现采用 NVIDIA GB200与网络设备所整合的机架级解决方案、以及专为NVIDIA HGX H200 GPU设计的液冷(DLC)服务器等产品。

如同2024年OCP全球峰会的主题「用想像力实践你的影响力」,生成式AI应用的关键技术正是云端服务业者今日最重视的解决方案,这些应用涵盖药物研发、语言学习及程序辅助等领域,并逐步改变人类的生活。技嘉不仅将运算资源完美融合于精心设计的服务器中,也在绿色运算领域持续发挥重要影响力。随着大规模云端运算的能耗剧增,液冷服务器成为提升能源效率的必经之路。

因此,在技嘉展位上展示的G4L3-SD1服务器,使用液冷循环系统,有效冷却双CPU及NVIDIA HGX H200模块内的8颗GPU。而对于尚未准备采用液冷的数据中心,技嘉也展出了专为H200 GPU设计的G593-SD1气冷服务器,工整的系统设计布局区隔出独立的GPU气冷空间。这两款服务器为AI运算带来卓越的效能表现,是当前市场上极具影响力的AI运算基础架构产品。

当数据中心选择以GPU运算丛集来追求超越单一服务器的效能时,网络交换器的选择至关重要。节点之间需要高速的数据传输和最低延迟,才能快速且高效地进行数据交换。为此,技嘉展示了NVIDIA Spectrum SN5600网络交换器,该交换器拥有64个800GbE端口,确保云端规模基础设施的高效运作。

此外,来宾在技嘉展位上能够见证由36台GPU服务器组成的NVIDIA GB200 NVL72运算机柜。每台服务器皆支持NVIDIA GB200 Grace Blackwell超级芯片,透过NVIDIA NVLINK-C2C与两颗NVIDIA B200 Tensor Core GPU无缝连接。Blackwell架构同样支持NVIDIA MGX模块化服务器平台,并涵盖NVIDIA GB200 NVL2的支持。技嘉过去展示的XH23-VG0服务器即是采用MGX模块化设计,而最新的NVL2解决方案将能处理AI的精细训练和推论。