国网助攻创鑫智能生成式AI硬件在地化 以低功耗推论卡深化台湾自有算力生态

Viper推论卡已被列入国网AI RAP架构中的Tier-3推论加速层。创鑫智能

生成式AI推升算力需求暴增，从云端数据中心到企业内部服务器，如何以更少能耗支撑大型语言模型（LLM）推论，成为硬件研发新战场。成立于2019年的创鑫智能，源自清华大学育成中心，以「用最少电力达到最佳效能」为使命，专注于低功耗AI芯片与推论加速卡的设计与整合。

透过与财团法人国家实验研究院国家高速网络与计算中心（国研院国网中心）TAIWAN AI RAP高效能生成式AI应用开发平台合作，创鑫智能打造出可支持生成式AI运算的Viper推论卡，为台湾企业开启「自有硬件算力」的新篇章。

国网平台降低系统整合门槛  加速产品验证周期

资深协理郭皇志表示在与国网中心合作前，创鑫智能须自行架设测试服务器、寄送硬件给客户进行安装与测试，不仅成本与软件整合难度高，流程也十分冗长。自2024年起采用RAP平台云地协同架构后，创鑫智能得以直接在国网环境中部署Viper推论卡，让客户可于云端实时试用产品效能，无须自行建置服务器环境，从以往需两至三天的送测与安装，缩短为使用者只需登入平台即可实时体验。

目前，Viper推论卡已被列入国网AI RAP架构中的Tier-3推论加速层，与NVIDIA、Intel、AMD等国际品牌并列，成为少数可支持大型语言模型推论的台湾自研芯片。透过国网API与云端运算环境，创鑫智能可快速与不同软件开发商协作，将AI转化为各部门的即战力。

如协助人资部门建立24小时的人资知识库，实时查询教育训练纪录、薪资结构与假勤规范；在营运与财会部门则可打造SOP查询中心，快速调阅采购纪录、财会条例与仓储库存；于研发单位也可建立机密的研发知识库，安全检索过往的产品开发文档与研发纪录。创鑫智能与合作夥伴高登智能共同优化硬件架构，进一步利用多代理的方式提升Viper的价值。

规划未来，创鑫智能正着手进行第二代AI推论卡评估并将持续与国网中心合作，在其平台上进行大规模测试与应用部署。郭皇志表示，透过国网中心的开放平台，企业与公部门可在安全可信的环境中快速部署与测试生成式AI应用，促进产业创新与技术落地，展现台湾在地自主发展AI硬件的决心与实力。