国网中心运算资源助攻 阳明交大AI辅助半导体设计架构开发案获突破 智能应用 影音
researchmember
Event

国网中心运算资源助攻 阳明交大AI辅助半导体设计架构开发案获突破

  • 林佩莹台北

LLM自动查找Attention运算中各个矩阵乘法之tile size的结果,其中的score代表对应参数组合所需的运算延迟(latency),可作为效能评估依据。阳明交大
LLM自动查找Attention运算中各个矩阵乘法之tile size的结果,其中的score代表对应参数组合所需的运算延迟(latency),可作为效能评估依据。阳明交大

芯片架构日趋复杂,传统设计流程面临前所未有的挑战。异质整合与多核心运算等新兴架构设计快速演进,导致设计空间与参数维度急遽增,而传统仰赖工程师手动试误的模式已难以应付全域最佳化探索需求。阳明交大人工智能系统检测中心利用国网中心H100 GPU丛集资源,推动「基于大型语言模型之新兴芯片架构设计系统」专案,在AI辅助半导体设计领域取得初步突破,为台湾芯片设计产业注入新动能。

阳明交大人工智能系统检测中心系统架构师蔡明轩表示,软硬件协同设计的工作负载对应与任务排程,已成为效能最佳化的关键瓶颈,现有主流语言模型多为通用语言任务训练,缺乏硬件语意理解能力,无法精准处理芯片设计中的技术语汇与参数逻辑。此外,设计验证流程自动化程度不足,导致开发周期冗长、错误率提升。

国立阳明交通大学人工智能系统检测中心系统架构师蔡明轩。阳明交大

国立阳明交通大学人工智能系统检测中心系统架构师蔡明轩。阳明交大

AI辅助设计系统成效浮现 产学合作开创半导体新契机

为解决上述技术痛点,该专案整合大型语言模型与高效能运算平台,建构语言模型驱动的设计空间探索(LLM-driven DSE)系统。专案采用国网中心提供的HGX H100 GPU裸机服务器,配置8颗GPU,为百亿参数等级语言模型的训练与微调提供充足算力支持。

蔡明轩提到,该团队已于专案前设定明确的量化技术目标:模型训练效率提升3倍以上、设计建议准确率提升超过50%、模拟验证流程自动化率达80%。透过AI协助探索,预期新芯片架构功耗可降低10-15%,研发周期缩短25%。

目前平台已完成初步系统整合与模型原型建置,可针对简化运算任务提供设计建议,并完成语料建构与模拟平台串接。实际使用H100资源后,模型训练效率确实超过原预期的3倍提升,可完整训练数十亿参数规模的语言模型,支持多任务与多模型同时部署。

对于下一步专案目标,蔡明轩提到,目前语言模型对EDA语意掌握仍不充分,对设计参数、EDA工具语汇等语意理解具有局限性。模型泛化能力有待提升,初期训练主要集中于特定运算架构,对异质平台应用需进一步优化。

此外,设计数据受限于产业保密性与标注成本,语料扩展速度未达理想,现阶段模拟系统仍以简化模型为主,需提升与实际运行效能对齐的精准度。

目前团队已展开语言模型辅助芯片设计探索的实际应用,针对特定运算单元提供参数设计建议,并建立模拟流程自动化测试原型。未来规划将系统模块化推广至封装设计、异质整合等场景,并扩展至AI加速器、车用芯片、IoT芯片等产品线。

商品化方面,计划将语言模型驱动的设计建议引擎打包为模块化API,与EDA工具串接作为智能设计辅助模块。同时规划与国内外EDA厂商洽谈技术整合合作,并透过建立标准化语料集与模型训练架构,支持学界在IC设计教育中导入AI辅助设计教材。

关于这次与国网中心的合作体验,蔡明轩认为国网中心可为资源有限的研究团队提供与国际接轨的运算条件,大幅缩短技术验证周期,以该团队为例,其初步成效就包括缩短芯片开发周期约25%、释放资深工程师超过一半的重复性工作时间,并建立具知识留存与传承功能的AI辅助设计框架。

他强调这次合作不仅为台湾半导体设计产业导入前瞻技术,更展现产学研合作在推动关键技术突破方面的重要价值,为台湾在全球半导体竞争中维持技术领先地位注入新动能。