创鑫智能：切入专用芯片市场，推荐模型AI加速器领先大厂

从人工智能（AI）AlphaGo打败世界棋王，轰动全世界后，着眼于AI的应用范围愈益扩大，更需要大量运算。成立短短四年的创鑫智能（NEUCHIPS） ，为当地AI运算加速器IC设计公司，研发利基AI加速芯片，在董事长林永隆带领团队下，历经3年艰辛的疫情，研发成果在2023年迎来当地外关注，在AI的浪潮下，其专用芯片内建专利压缩技术，大幅降低存储器需求，仍保有高准确度、超低功耗，不让AI大厂辉达 (NVIDI) 专美于前，更是当地第二家投片台积电7纳米的IC设计商。

AI发展扩大，运算需求以千倍增加

在科技部射月计划的鼓励下，创鑫智能于2019年在清大育成中心成立，由创始人清大资工系教授林永隆担任董事长，专研于AI运算的IC设计，在成立的第二年就推出全球首个深度学习推荐模型 (DLRM)：RecAccel™。

林永隆分析产业趋势，从人脸、语音识别，再到2022年底ChatGPT的问世，AI运算的需求，从10的9次方增加到10的12次方，短时间增加1000倍，「从芯片设计与软件优化才能解决运算需求的激增，对创鑫智能而言有很大的市场机会。」

不过，他坦言挑战不小，因为「全世界都看得到机会，竞争者众，」他话锋一转指出，不能因为挑战大而不去做，科技部向来鼓励大学师生从事顶尖一流的研究，他们团队的顶尖研究量能是一项优势。

再加上台湾半导体生态链完整，从IC设计、制造到IP provider，分工较细，对一家规模相对较小的新创团队来说，是另一项优势。

切入AI ASIC利基市场，能效优于大厂
在竞争者环伺下，林永隆抓准客户希望「俗搁大碗」的需求，希望产品是高效能与低耗能，他们不走通用芯片的路径，切入AI ASIC（特定应用集成电路）市场，提供最优的能效。

举例来说，以前电脑或笔记本电脑可以有播放光盘片的功能，但其芯片价格不斐，后来DVD Player，其芯片设计属于专用芯片，相对低廉；以往挖矿的芯片，过于耗电，报酬不敷电费成本，尔后产生的专用芯片，可降低能耗。

「让AI运算加速的芯片，原理和挖矿的专用芯片一样，我们要考虑到购置、营运成本，ASIC可以做得比较好，是否能研发出效能跟得上市场脚步的专用芯片就要看各家本事，」林永隆说明。

创鑫智能的团队超过50人，在资深IC设计及软件设计的专家团队开发下，2023年传来好消息。

根据MLCommons（开放式工程联盟）公布的测试数据，在数据中心推荐系统领域，创鑫智能RecAccelTM N3000系统，除了展现其100%的效能扩充性（Performance Scalability）外，在每瓦可处理1060次查询的评测上，能效是对手NVIDIA H100的1.7倍，高居榜首。

另外的好消息是，在技术团队为础石下，创鑫智能延揽曾任台湾英特尔总经理的刘景慈担任CEO，进一步深化与市场需求间的连结，可说是如虎添翼。

鼓励当地新创，走向国际舞台

曾有创业经验的林永隆，对于喜欢的事情充满热情，勇往直前，自称第二次创业是带领一批「敢死队」，第二年面临新冠肺炎疫情，整整三年的防疫期间，充满不确定性。防疫期间虽然风声鹤唳，但因为「哪里都去不了，反而更专心研究AI加速专用芯片。」

辛苦的研发终获甜美的果实，除了某个特定应用的芯片（推荐模型）能效超越NVIDIA，引起外界关注；创鑫智能参加2023年的TIE Award，在半导体组荣获第二名佳绩，展现国人研发的坚强实力，除了推荐模型，也将展示用大型语言模型（LLM）来训练ChatGpt的成果。

林永隆充满信心地说，公司已陆续接洽服务器、系统等相关厂商，「创鑫智能是全世界少数可以将这些令人印象深刻的研发成果展现出来的公司，希望能藉由展览会吸引当地外厂商下订单。」

同时，他乐见政府鼓励学校成立新创团队，尤其TIE Award为国际性奖项，开放国外公司参赛，让当地新创团队站上国际性舞台参赛，相互激荡，亦有利于产业发展。

欲了解更多，欢迎各专业人士于10月12日~14日莅临世贸一馆「2023 创新技术博览会-未来科技馆」，并点此报名参加TIE Award商机媒合会。