2010年前后开始真正受到瞩目的深度学习(Deep Learning),是人工智能(AI)相关技术进化的关键期,透过机器学习得到的经验,让AI技术有了新的依靠。2016年的AlphaGo更是推波助澜的重要突破,之后各种边缘装置(Edge Devices)出现在市场上,相关技术与半导体芯片的进展也受到瞩目。
至于在半导体领域发展的特用AI芯片,则是一种特化型IC(ASIC),又可分为服务器与边缘端专用。目前大家关注GPU与CPU带来的运算之争,将来重心也会慢慢移转到前端设备,这些都是重要的变化、挑战,也是机会,而台商是海景第一排的有力角逐者。
AI半导体是指可以让AI软件与演算法可以更有效率执行的各种专用芯片。现有的泛用CPU,在处理大量数据时可能面对极限,也让出更多机会给不同的微处理器,例如GPU、DPU与用于推论的NPU,特别是当初用来处理图像的GPU,运用在AI上,竟有远超过原来期待的功能。
特别是NVIDIA结合CUDA的软件设计程序,造就了NVIDIA今天的盛况。除此之外,其他如现场可程序化逻辑闸阵列(FPGA)芯片也出现了新的契机。GPU与FPGA也都是泛用型IC,非只为某一客户量身定制的ASIC。
ASIC是具有明确目标功能的系统半导体,目前最被看好的GPU结合了CUDA软件,在市场上具有压倒性优势,而NVIDIA的财报也证明过去的投资与软硬整合的优势正在发酵中。
A100拥有6,912个CUDA Core与40GB HBM2存储器,这套解决方案可以整合成一套超级电脑。2022年3月,NVIDIA推出效能比A100还要强大的H100。
根据IDC调查,全球AI数据中心的市场规模,将从2021年的156亿美元,成长到2025年的318亿美元,年均成长19.5%,远高于传统服务器市场的10.7%。
至于AI芯片市场,各大顾问公司也有许多评估,多数看好未来几年的成长,其中Gartner认为,AI芯片在2025年时可达700亿美元,到2030年AI芯片市场总值将达1,179亿美元,贡献整个ASIC市场的31%。
由于看好AI芯片商机,从超微(AMD)、英特尔(Intel)这些NVIDIA传统的竞争对手,到上游的ARM、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎视眈眈,英特尔甚至透过购并Habana,希望加速软硬整合的实力。
除此之外,美国、英国、法国都有很多新创公司尝试开发出各种用途的AI芯片,国内当然也没闲着。百度、华为、阿里巴巴、比特大陆等,都有明确规格与定义的AI芯片发展计划。
此外,韩国存储器双雄在存储器内运算(PIM)市场上着力更多。三星电子(Samsung Electronics)在2020年发表HBM-PIM的产品,让芯片可以在没有连结数据中心的情况下,独立进行演算,对声音、影像在装置前端的应用上深具意义。
走在市场最前端的晶圆代工业、设计服务业者,大致可以维持应有的地位,但最受挑战的是台湾IC设计产业。在晶圆制造领域,14纳米以下先进制程成为必要条件,拥有最先进制程的公司,仍将是市场上的宠儿。
台湾IC设计业虽只占全球市场的18%,在前十大业者中有3家来自台湾,但台湾擅长替代型商机,而非定义市场,参与前端市场的角逐。
其次,业者面对人才短缺、成本激增、国内业者追击等相关议题,真正有实力角逐顶级商机的厂商屈指可数。台湾的IC设计业者正积极赶上这一波大AI潮的滚滚商机。
最后,前端设备的多元需求,AIoT商机无可限量。IBM估计,物联网终端设备总量从2020年的150亿台,增加到2025年的1,500亿台。10倍速成长加上多元商机,如何发展通用效益,又可以差异化设计的发展机制,是台湾业者最大的挑战。