维系供应链新希望 超微MI300传明年出货上看40万颗
被认为是目前唯一可挑战NVIDIA的AI GPU霸主地位的超微(AMD)新一代Instinct MI300系列加速器,将于台北时间7日凌晨正式登场,CEO苏姿丰(Lisa Su)将与经营团队与AI产业链合作夥伴及客户,将同台大秀AI软硬件平台如何重新打造AI、自行调适与高效运算(HPC)愿景。尤其是最大客户微软(Microsoft),预期也亲自站台助阵。
尽管美锁中禁令加剧,AI GPU需求热度不减反升,其中,超微MI300系列2024年出货约达30万~40万颗,最大客户为微软、Google,若非受限台积电CoWoS产能短缺及NVIDIA早已预订逾4成产能,超微出货可望再上修。
超微表示,MI300X加速器支持高达192GB的HBM3存储器,提供大型语言模型推导与生成式AI工作负载所需的运算力与存储器效率。凭藉MI300X的大容量存储器,客户可处理Falcon-40B等大型语言模型,仅需使用1个MI300X GPU加速器就能处理400亿个参数的模型。
而MI300A为针对HPC与AI工作负载所开发的全球首款APU加速器。为辅助硬件执行,超微透过为数据中心加速器打造的ROCm软件产业体系,将就绪完备的开放AI软件平台推向市场。
值得一提的是,超微AI 平台日前已有微软大单落袋,微软正式宣布多款搭载MI300X、Epyc处理器及搭载AI引擎的Ryzen处理器等新品,其中,全新Azure ND MI300x v5虚拟机器(VM)系列搭载MI300X,为AI工作负载进行最佳化。
供应链指出,MI300系列采用台积电先进封装技术,主要以SoIC搭配CoWoS,超微也是目前台积电最重要的SoIC大客户,苹果(Apple)、NVIDIA预计2025年后才会导入 。
据估算,目前台积电CoWoS加速龙潭、台中扩产规模,竹南AP6厂也加入支持,部分低毛利oS(on Substrate)也释单给其他封测厂。在AI需求飙升下,台积电CoWoS月产能不断上修,预估至2024年底将超过3万片。
另在报价高昂的SoIC方面,目前月产能不到2,000片,2024年随着超微新品推出,应可顺利突破2,000片,2027年有机会拉升至逾7,000片。
台积电总裁魏哲家先前则预期,2022年先进封装产能较2018年多3倍,已在2022年开始SoIC芯片堆叠制造,估计2026年产能可增至20倍以上。
超微信心指出,MI300系列已接到多家大客户订单,AI GPU第4季营收已由3亿美元上修至4亿美元,2024年AI GPU营收将超过20亿美元,
受惠超微加入AI芯片战局,AI相关供应链2024年首季起营运应可逐季好转,如台积电一条龙服务拿下先进制程与先进封装大单,而纬创等也承接GPU模块代工,另还有通吃超微、NVIDIA大单的颖崴,技嘉、华擎将在首季推出MI300系列服务器,第2季开始逐季放量。
据了解,NVIDIA H100至今仍供不应求,为压制超微,预计2024年下半推出采用台积电3纳米的B100。英特尔(Intel)继Gaudi 2后,近期也针对中国市场再推降规版,而Gaudi 3则会在2024年推出。