Google TPU打平成本仅需1年 联发科、博通ASIC业绩有上修空间 智能应用 影音
DIGITIMES Logo
236
DIGITIMES Logo
Event

Google TPU打平成本仅需1年 联发科、博通ASIC业绩有上修空间

  • avatar
    刘宪杰台北

Play Icon AI语音摘要 00:46 List Icon听更多

TPU回收成本周期仅1年,Google加码底气足,ASIC业者营收仍有上修空间。符世旻摄
TPU回收成本周期仅1年,Google加码底气足,ASIC业者营收仍有上修空间。符世旻摄

近期Google CloudCEOThomas Kurian公开表示,Google在AI服务器的整体投资回收期不到两年,自研芯片的回收期,更是这个数字的一半。换算下来,这意味着Google TPU,约只需要1年的时间,就能打平成本。业界也估计,这让联发科、博通(Broadcom)等特用芯片(ASIC)设计服务业者,后续营运更可以受惠于Google加码进攻TPU的大方向。

IC设计业界人士表示,这就是Google之所以在自研芯片开发与量产计划上,可以投入的强劲的力道与庞大资源的关键原因。「快速的成本回收时程」,更是未来Google因应市场需求、能够持续加码的重要底气。

相关供应链业界人士指出,事实上包括联发科在前几次法说会中,陆续上调ASIC业务的规模,以及博通高速成长的营收表现,都可以看出Google的TPU相关订单,动能还在持续加温。

从供应链的角度来看,确实也是有产品加单,甚至为了AI的技术变化,而开出更多不同规格的情况,TPU现在已经是在NVIDIA之外,需求规模最为庞大的云端AI芯片产品了。

Google的TPU能够快速回收成本有几个原因。

一方面自然是因为成本端压得比较低,尤其和采购NVIDIA整套系统相比,自行打造TPU的机柜系统,更能够控制成本。

另一方面,Google在AI相关服务所能赚取的业务营收规模,也因为Google已经相当庞大的网络服务代理,而比其他云端服务(CSP)同业,或是AI模型大厂来得更高,而这还是Google自己使用TPU的部分,现在Google在对外销售TPU或是TPU运算服务上面,也逐步取得更多的成果。

Google TPU的市场竞争力,很大一部份就来自于这个成本效益。

根据Google自己的估算,自家方案的AI训练价格效能优于竞品2.7倍,推论则有80%的优势,CPU有30%的优势。一些第三方机构也算出,相比于NVIDIA的B200和B300,Google的Ironwood TPU每美元效能高出50%,每百万Tokens的成本也比B200和B300来得低。

芯片供应链业者直言,随着市场上AI芯片选择越来越多,成本效益对于许多客户来说已经是非常重要的采购考量。

Thomas Kurian强调,现在TPU的建置需求来源,已经不只是AI实验室了,包括量化交易与研究的资本市场业者、避险基金与传统银行、生技药厂、公部门的研究专案,以及各类科学研究的传统高效能运算,都开始在往TPU的平台转移。

这些全新的市场需求,不仅让TPU的用量更加庞大,各种不同的AI运算应用窜出,也让Google必须开出更多不同的TPU专案,并让更多ASIC业者参与其中。

从联发科和博通近期对于TPU的相关需求说法来看,固然联发科确实持续扩大供应比重,相关营收的规模也有上修,但博通也强调,在TPU训练端芯片的订单需求非常强劲,且一些像是Anthropic采购TPU的专案订单,也都还是博通掌握在手上。

熟悉IC设计业界人士表示,对于两家厂商来说,虽然未来会继续竞争市占率,甚至还有更多同业会加入战局,但Google的TPU整块饼扩大的速度,还是「大到所有人都能继续成长」的程度。

责任编辑:何致中