NVIDIA Eos揭晓:一窥前十大超级电脑的运作 智能应用 影音
工研院
ST Microsite

NVIDIA Eos揭晓:一窥前十大超级电脑的运作

  • 范菩盈台北

作为全球企业的蓝图,NVIDIA的突破性DGX AI超级电脑旨在为AI创新的下一个边界提供动力
作为全球企业的蓝图,NVIDIA的突破性DGX AI超级电脑旨在为AI创新的下一个边界提供动力

NVIDIA于日前发布了一段影片,首次公开展示其最新的数据中心规模超级电脑 Eos,让我们一睹为先进人工智能(AI)工厂提供动力的架构。Eos是一个超大型NVIDIA DGX SuperPOD,NVIDIA开发人员利用加速的运算基础架构和全面最佳化的软件来实现AI突破。Eos由576个NVIDIA DGX H100系统、NVIDIA Quantum-2 InfiniBand网络和软件构建而成,提供总共 18.4 exaflops的FP8 A效能。

Eos 在2023年11月的Supercomputing 2023大会(SC23)上亮相,以希腊女神Eos命名,据说她每天打开黎明的大门,这彰显了NVIDIA对推进AI技术的承诺。

Eos 超级电脑推动创新

每个DGX H100系统均配备八个NVIDIA H100 Tensor核心GPU。Eos共有4,608个 H100 GPU。因此,Eos 可以处理最大的AI工作负载,以训练大型语言模型、推荐系统、量子模拟等。它展示了NVIDIA技术在大规模应用时的能力。

Eos的到来恰逢其时。人们正在利用生成式AI改变世界,从药物探索到聊天机器人,再到自主机器等。为了实现这些突破,他们需要的不仅仅是AI专业知识和开发技能。他们需要一个AI工厂,一个随时可用的专用AI引擎,并有助于提升他们构建大规模AI模型的能力。

Eos展现出色,在全球最快超级电脑TOP500排行榜中排名第9,突破了AI技术和基础设施的极限。它包含了NVIDIA先进的加速运算和网络技术,以及诸如NVIDIA Base CommandNVIDIA AI Enterprise等先进的软件产品。Eos的架构针对需要跨越大型加速运算节点丛集实现超低延迟和高吞吐量互连的AI工作负载进行了最佳化,使其成为寻求扩展AI功能企业的理想解决方案。

基于采用网络内运算(In-Network Computing)技术的NVIDIA Quantum-2 InfiniBand,其网络架构支持高达400Gb/s的数据传输速度,有助于快速移动训练复杂AI模型所需的大型数据集。Eos的核心是由 NVIDIA DGX H100系统所驱动的突破性DGX SuperPOD架构。该架构旨在为AI和运算领域提供紧密整合、能够进行庞大规模运算的全端系统。

随着世界各地的企业和开发人员寻求利用AI的力量,Eos成为一种关键资源,有望加速实现能为每个组织提供动力的AI驱动应用进程。欲了解更多信息,请欣赏NVIDIA Eos的介绍影片

。NVIDIA


关键字
商情专辑-2024 AI EXPO Taiwan