AI服务器系统厂「终极圣杯」 纬颖L12组装大单入袋
纬颖董事长洪丽寗指出,服务器产业因为AI有三大趋势变化,首先是算力驱动科技发展,其次是新市场、新客户出现,最后是服务器服务范畴扩充,如纬颖就接到马来西亚杨忠礼集团(YTL)数据中心订单,首度从L11组装跳至L12。此为台系服务器系统整合厂一大跳跃。
业界认为,观察重点在于,纬颖透过YTL订单,首度从L11组装层级,跳升至L12一事。
所谓L11,是服务器机柜的最终组装,L12则是多机柜组装成cluster(丛集),必须考虑整个数据中心建置,对服务器ODM来说,是一大挑战,也是「终极圣杯」。
业界指出,服务器组装共分L1~L12阶段:
其中L1~6主要以各种模块组装为主,出货为主机板形式;L7~L9阶段再加上CPU、GPU、HDD、存储器等关键零组件;L10进行系统组装与测试;L11是整机柜组装,也是多数台湾ODM厂做到的层级。
多数台系ODM厂与客户的出货模式,是在L11的机柜组装后,再由国际CSP客户组成服务器cluster,也就是L12,据悉,这也是ZT团队吸引台、美EMS/ODM厂抢标的原因所在,因为ZT团队有L12的组装经验与能力。
GPU单价极高,ODM厂在buy and sell的出货模式下,L11的整机柜组装,做越多、毛利率侵蚀幅度也越大。此也是日前富士康、广达都已释出的信息,当GB200出货比重拉高时,毛利率将会承压,然若做到L12,毛利率反而会提升,但ODM不一定有机会或有能力做到。
洪丽寗指出,以前客户都是CSP,很多台厂都会做板子或机壳,或做到单机柜的组装,由客户串起来成为cluster,如今纬颖也有机会协助客户做cluster,主因客户并非传统的CSP,而是新的市场玩家。
洪丽寗提到的新市场玩家,就是马来西亚最大综合企业:YTL。
有别于CSP厂商与科技关联较深,YTL是马来西亚知名综合型基础设施开发商,事业版图横跨能源、建筑工程、地产开发与投资、酒店与度假村、科技以及教育,足迹遍及亚太地区、欧洲和中东。
YTL预计将在马来西亚柔佛州兴建600MW的数据中心。洪丽寗表示,YTL是个大集团,有电力、水资源、建筑与电信产业,并非传统的IT玩家,可见AI多吸引人,大家都想做数据中心,如同百花齐放。
延伸报导AI服务器前进柔新特区最先锋 专访纬颖马来西亚总经理刘永兴
另一非传统玩家的是:Lambda。
Lambda提供专为训练、微调及部署AI模型设计的云端服务及软件厂商,该软件服务备受程序开发者喜爱,因为其本身就是从程序开发起家,深知业界需求,Lambda近期也开始建立数据中心。
延伸报导和硕交付GB200机柜 砸6亿投资美CSP厂
洪丽寗参加台北市电脑公会举办的AI NEXT FORUM,以「AI算力重塑全球产业格局」为题发表演说。洪丽寗指出,她观察服务器产业,AI领域有3大转变,包括算力成长,推动科技发展,其次为新的市场玩家及新市场出现,最后是服务器供应链的服务范畴扩大。
洪丽寗指出,之前大家还在担忧那家CSP不盖数据中心或取消租约,影响市场需求,所幸上周CSP大厂的法说会打破大家误解。
目前各界估计,2024年的成长幅度最明显,之后仍会成长,只是幅度减缓,然2023~2028年的AI服务器市场规模年复合成长率(CAGR),仍可达23%。
洪丽寗指出,AI模型愈来愈大,算力需求也持续拉升,在Transformer模型出现之前,算力增加速度是2年8倍速,然在Transformer模型出现后,算力加速,达到2年256倍速。
因应算力需求,CPU与GPU业者拼命推出更强产品,结果,却是耗电与散热需求拉升。
现在芯片耗电达1,000瓦(W),预计未来1~2年内将会拉升到2,000~2,500瓦,此也带动散热从过去的气冷,转为到人人都在谈论液冷,现在也有厂商在研究把散热做到芯片里。
洪丽寗指出,过去服务器散热能力预计2年会增加1.2倍,如今是2年增加2倍,预计未来没多久,就要达到2年3倍的提升。
她表示,在此过程,台厂还有很多机会,比如快接头的漏水问题,甚至纬颖在测试时,都会不小心漏水。
在算力提升的同时,也有如上述YTL及Lambda的新玩家出现,此外,也有主权AI的数据中心,及提供AI服务的厂商,包括知名的OpenAI及Mistral AI等,这些都是新的数据中心建置者,也是ODM的新客户来源。
责任编辑:何致中