微软扩展Azure Maia AI系统至数GW规模部署 智能应用 影音
DIGITIMES Logo
231
DIGITIMES Logo
20261023_DForum

微软扩展Azure Maia AI系统至数GW规模部署

  • 台北讯

微软AI基础建设发展进入全新阶段,宣布将扩大Azure Maia系列部署,于2027年扩展至数GW(Multi-Gigawatt;数十亿瓦)规模,成为微软产品与服务的主要AI推论(inference)系统。

横跨多个时代的Azure Maia发展计划已成为微软AI基础建设策略的核心要素。Maia 200现已正式支持包括Microsoft Copilot在内的实际生产工作负载,并协助Microsoft AI(MAI)团队开发新一代模型;GitHub Copilot与Microsoft Foundry则预计于2026年底加入。

Maia 200可执行的工作负载涵盖OpenAI模型、微软自研MAI模型,以及主流开源模型系列。透过微软大规模AI服务累积的洞察,得以从硬件系统到软件应用进行协同设计(co-design),针对企业应用及不同产业的实际使用需求进行最佳化。

Azure Maia 300原型芯片。台湾微软

Azure Maia 300原型芯片。台湾微软

Maia 300是一套专为新一代AI工作负载打造的完整AI系统,包含长上下文推理(long-context reasoning)、对延迟高度敏感的对话式体验,以及需要长时间持续执行的多步骤的agentic任务。透过提升系统效率,微软预期相较于顶尖GPU运算系统,Maia 300每万亿瓦(Megawatt;MW)token处理量将提升40%,并在96颗加速器的完整配置下,其机柜级(rack-scale)token处理量最高可达Maia 200的7倍。

Maia 200驱动微软大规模运行的工作负载

Azure Maia系统以微软实际运行的大规模工作负载,以及对未来模型发展的预期需求为设计基础。由于芯片开发周期长达数年,微软的软硬件团队从研发初期便展开合作,预先规划未来架构、规模与运算能力,并将这些需求落实为更大的存储器容量、更高的带宽,以及与更多加速器共同运作的统一系统。

这项软硬件协同工程(co-engineering)已展现可量化的效率提升。Maia 200已部署于美国、欧洲及澳大利亚,支持Microsoft Teams、Copilot与Cowork等内建AI功能,相较于业界顶尖的GPU基础架构,每瓦token处理量提升高达1.7倍。

微软于Maia 200运行AI模型与服务所累积的经验,直接为Maia 300的设计方向提供重要依据。两代系统皆以支持微软多元AI服务而设计,包括可提升GitHub程序开发体验效率的多步骤agentic工作、协助支持Microsoft Foundry因应多元模型架构与环境部署需求的云端级规模模型服务、MAI团队的推论与数据生成、以及协助Dragon Copilot规模化工作流程规模并减轻临床医护人员的行政负担所需但对于延迟较敏感的互动。

Maia 300让每一万亿瓦创造更多AI价值

AI正逐渐成为各类应用、工作流程与企业营运的基础。随着企业从单纯聊天体验,迈向可推论、执行与协作的agent系统,AI基础建设必须提供安全且高效的大规模AI智能,并持续因应模型与工作负载的快速演进灵活调整。

作为Azure Maia计划的第三代产品,Maia 300采用推论优先(inference-first)的架构设计,针对长上下文、高存储器需求与高解码需求(decode-heavy)等AI工作负载优化,同时在云端级规模下平衡运算、存储器带宽、网络与能源效率。

Azure Maia 300系统。台湾微软

Azure Maia 300系统。台湾微软

Maia 300系统核心能力包含:1. 减少数据移动,提升有效运算:在大型AI推论系统中,数据移动效率正逐渐成为关键瓶颈,而非单纯运算能力。Maia 300的软件定义数据流程架构与AI辅助的核心(kernel)优化相互协作,可最大化数据区域性(locality)、减少数据移动,并提升运算、存储器及网络资源的使用效率。透过将数据流视为核心设计原则,Maia 300在每瓦效能表现相较传统GPU架构具备显着优势。

2. 更高的每瓦存储器带宽:随着AI工作负载愈来愈受情境与存储器影响,Maia 300提供引领业界的HBM带宽每瓦效能,8组HBM4存储器堆叠在950瓦热设计功耗(Thermal Design Power;TDP)下,可提供最高18.0 TB/s的存储器带宽,高效执行大型模型与长上下文工作负载。此外,专用核心支持则将晶粒内的SRAM作为软件管理的暂存空间(scratchpad),进一步降低HBM的存取压力。

3. 透过小芯片(chiplet)架构提升效率:Maia 300采用全新多颗小芯片架构设计,将运算、存储器控制器、I/O功能分别配置,借此提升效率、可扩充性(scalability)与成本结构。小芯片采用TSMC N2P制程节点,以最佳化每瓦效能。

4. 支持更长的上下文与更强大的智能:Maia 300以针对强化版MXFP4等先进低精度格式进行设计,可降低运算与KV快取(KV-Cache)存储所需的存储器与带宽,进而在相同的功耗范围内支持更大的上下文视窗、更高的处理量与更高的模型效率。

5. 支持数据中心规模的网络垂直扩展:Maia 300将网络视为软件定义数据流架构的无缝延伸。不同于透过独立的通讯层传输数据,数据流运作将运算、存储器与网络资源视为单一整合系统。高带宽互连技术协助Maia加速器优化张量平行化(tensor parallelism),而定制化AI传输则在加速器与机柜之间,提供高效且可靠的垂直扩展通讯。AI优化的传输技术采用基于以太网络(Ethernet)的网络基础架构,打造统一的拓扑(topology),从单一机柜高效扩展至数据中心规模的部署。

6. 提升每个机柜的AI处理量:Maia 300机柜系统在167千瓦功耗范围内整合96颗加速器,提供27.6 TB的HBM容量,并在高速垂直扩展网域中实现1.7 PB/s的HBM总带宽。此高密度配置协助微软的每个机柜支持更多同步进行的AI互动与更大型的工作负载,以提升数据中心容量与AI服务规模化扩展的经济效益。

Maia 300将于2027年正式开始生产部署。欲了解更多Maia 300技术架构细节信息,欢迎参阅微软技术白皮书。

Maia 300技术亮点一览。台湾微软

Maia 300技术亮点一览。台湾微软

Azure Maia是前瞻转型的核心

未来的AI发展不会由单一模型、单一芯片或单一技术创新所定义。模型与芯片的选择是微软实现前瞻转型愿景不可或缺的一部分。微软致力于打造负责任、可负担且具备可扩充性的AI平台,协助每个人运用AI扩展自身智能,推动真正具有意义的突破性成果。

微软的独特之处,在于能够在开放、异质且支持多元模型的平台上,从芯片、系统到agent进行优化,协助客户满足当前需求并因应未来发展持续推动AI转型。此平台正是前瞻转型的核心,而Azure Maia则是微软扩展AI存取、加速创新的基础要素,让客户能从AI中创造更多价值。

微软将于下个月在美国旧金山及在线举办Microsoft Ignite 2026,届时将进一步分享微软的AI策略、技术采用趋势,以及前瞻转型的成功案例。