技嘉引领AI时代 偕AMD加速人工智能与LLM运算应用突破 智能应用 影音
Event
DFORUM

技嘉引领AI时代 偕AMD加速人工智能与LLM运算应用突破

  • 魏于宁台北

技嘉引领AI时代 偕AMD加速人工智能与LLM运算应用突破。技嘉
技嘉引领AI时代 偕AMD加速人工智能与LLM运算应用突破。技嘉

2024年甫出炉的诺贝尔物理学奖得奖者为霍普菲尔德(John J. Hopfield)与辛顿(Geoffrey E. Hinton)。他们利用物理学来训练人工神经网络的研究自1980年代开始,为现代的深度学习和AI发展奠定了关键基础。做为生成式AI服务器及先进散热技术的领导者,在深度学习有着无限可能的现今,技嘉科技子公司技钢科技不断创新,携手AMD推出EPYC 9005系列处理器服务器与AMD Instinct MI325X加速器服务器,具备领先的效能与效率,以应对日益复杂的AI运算需求。

此次产品释出同时针对部分现有使用SP5平台的服务器进行BIOS更新,首波更新即涵盖了60多款服务器与企业级主机板,这些产品均可具备卓越的效能,专为第5代 AMD EPYC处理器设计,为客户提供强大的运算能力。此外,针对最新推出的AMD Instinct MI325X加速器,同步设计了全新服务器,并将于11月19日至21日在亚特兰大的SC24大会上亮相。

GIGABYTE服务器全面升级,BIOS同步更新

为能深入各类工作负载,GIGABYTE更推出从模块化服务器到企业级主机板等多样化解决方案,这些服务器将支持AMD EPYC  9005系列处理器。XV23-ZX0是其中一款备受瞩目的新解决方案,采模块化服务器设计,配备两颗AMD EPYC 9005处理器插槽,支持最多四张GPU卡及三个额外的FHFL插槽,同时2+2冗余电源供应位于前端更加易于维护。

GIGABYTE旗下多款基于AMD EPYC 9004系列处理器的服务器与主机板,将透过两波更新陆续支持AMD EPYC 9005系列CPU。客户可透过产品页面查看,并下载相应的BIOS更新。由于单通道配置的存储器速度在不同时代之间的差异,客户务必查看产品页面以确认是否支持6000 MT/s的速度。

AMD技术边界再突破

AMD EPYC 9005系列处理器是EPYC系列中的最新成员,提供多达192「Zen5c」核心与384执行绪,时脉速度最快可达5 GHz,并具备更大的快取容量。这些处理器针对AI数据中心设计,提供领先的效能与效率,以及x86软件兼容性,它们能支持从企业AI启用计划到大规模云端基础设施,再到承载关键业务应用的各种应用,提升能源效率并减缓数据中心的扩展。基于AMD EPYC 9005系列CPU的服务器为计划在运算和AI解决方案领域领先的企业提供了最佳选择。

AMD Instinct MI325X加速器以AMD CDNA 3架构树立了AI效能新标准,凭藉领先业界的存储器与6 TB/s的带宽,最佳化系统效能并降低总拥有成本(TCO)。与AMD ROCm软件结合的新AMD加速器支持关键AI框架,简化部署过程。AMD Instinct MI325X加速器将与GIGABYTE基础设施无缝整合,并对OpenAI、PyTorch、Hugging Face、Databricks、Lamini等生态系统夥伴提供强大的零时差支持,帮助企业高效增长。

技钢科技副总经理王俊民表示:「能够以相同的插槽支持新一代AMD EPYC处理器是令人相当印象深刻的。特别是考虑到我们在EPYC 9005系列处理器上看到更增强的效能表现。」他补充道:「AMD Instinct MI325X这样的技术持续突破运算和AI的极限,我们感谢能够与AMD保持紧密合作,在今日携手同步发布更新。」

AMD服务器业务资深副总裁Ravi Kuppuswamy指出:「AMD是领先数据中心解决方案的首选,无论是推动企业AI计划、构建大规模云端部署,或本地的业务应用,我们最新的第五代AMD EPYC处理器,具备卓越的效能、灵活性和可靠性,并且与数据中心生态兼容,能为现今数据中心的独特需求量身定制解决方案。」

AMD企业发展副总裁Travis Karr表示:「AMD正引领着AI革命!我们的Instinct™加速器表现突出,为生成式AI效能和能力立下全新基准。」他补充道:「我们最新的Instinct™ MI325X加速器基于CDNA™3架构,拥有业界领先的256GB HBM3E存储器,使企业能够高效扩展最复杂的AI工作负载,推动自然语言处理、电脑视觉等领域前所未有的进步。」

GIGABYTE闪耀登场 Advancing AI 2024

在Advancing AI 2024大会现场,GIGABYTE展示了其最新发布的服务器,且唯一一款单节点具备48 条存储器插槽的服务器——R283-ZK0「锯齿排列」服务器。此外更展示了针对AMD Instinct MI325X GPU的全新8U服务器设计概念,这是一款经改良的8-GPU主板服务器,将为大型语言模型和AI推论提供超乎想像的解决方案。