释放GPU芯片运算效能 HBM技术持续迈向新时代

SEMICON Taiwan 国际半导体展同期举办的异质整合国际高峰论坛，第3天与会贵宾合影。SEMI

因应日益复杂的应用需求，市场对AI芯片、HPC等需求持续攀升。尽管在晶圆制造业持续突破先进制程，让晶圆制造得以向3nm、2nm迈进，然此举仍然不足发挥AI芯片、HPC等运算能力，也带动 3D异质整合（3DHI）技术的广泛应用，极盼借此突破「摩尔定律」的发展瓶颈。如因应AI芯片而生的HBM（High Bandwidth Memory；高带宽存储器），即具备高带宽、低功耗与体积小等优点，能全力释放GPU芯片的强大算力。

SEMICON Taiwan 国际半导体展同期举办的异质整合国际高峰论坛–第三天活动中，美光科技副总裁Akshay Singh表示，现今AI正以前所未有速度快速发展，被广泛应用智能车、智能医疗、智能制造等领域中。而随着生成式AI兴起，GPU芯片必须透过CPU存取存储器中数据的传统架构，已难以支撑大语言模型的训练与推论需求。因此，与GPU芯片共同封装的HBM，具备高带宽、大容量等特性，让GPU芯片可直接存取存储器中的数据，自然成为提升AI算力最新平台。

三星电子企业EVP林俊成博士指出，在HPC、AI带动下，带动市场对HBM强烈需求。三星电子推出的HBM3E 12H带宽达到1.2 TB/s，容量也达到36GB，相较于HBM3 8H，在带宽与容量上大幅提升超过50%。在制程技术进步下，预估每个新时代的HBM带宽和容量将呈现2~3倍成长，预估HBM4功率超过30W，堆叠数量将达到16个。如此一来，势必会导致产生更高热能，然现行HBM采用凸块键合制程，在受到接缝间隙高度的限制下，利用TCB、 MR等技术的模式，恐怕难以解决下一代HBM产生的高热能。

可预期HBM4势必要采用HCB 技术，才能改善HBM封装的散热问题，且能减少对环氧树脂材料的需求，并在界面交接处提供更高密度的I/O金属，达到降低HBM厚度，进而达到提升效能、降低能耗、体积的目的。不过，采用HCB技术背后，也得克服薄芯片的翘曲控制问题，而可能需要采用 CoW（CoRW）技术，才能降低晶圆级处理的成本，也成为封装产业必须面对的新课题。

在市场追求高效能芯片的浪潮下，带动全球各界投入先进封装技术的研发，也同步带动先进量测工具、材料等创新，期盼全力克服制程及封装技术挑战，抢攻异质整合市场的庞大商机。