Blumind以类比半导体架构助力AI推论
- 陈芃/台北讯
由于现行电脑系统结构(computer architectures)的限制,AI发展和使用遭遇严重的能源不足问题。为了解决这项挑战,加拿大新创Blumind发明类比半导体架构,可以低耗能的方式有效支持神经网络。
Blumind共同创始人兼营运长Niraj Mathur表示,该公司2022年送交制造第一颗芯片,已取得良好成果;目前正在设计更多测试芯片,目标在2024年投产。
低耗能的半导体架构
创立于2020年的Blumind,希望以自身的半导体技术促进AI推论。Mathur说,AI的「训练(training)」是以巨量数据训练神经网络;AI推论是训练后的下个阶段,是神经网络要去执行的功能。
他举例,镜头采用经过训练的神经网络,可以判断蒐集的画面里是否有人类出现,这就是AI推论。这个不断重复的过程会消耗AI大部分的工作量,因为必须随时提供最佳的使用者经验。
Mathur表示,业界已在发展高效率、永续性的AI上碰到困境。首先,要以使用数十年的冯纽曼架构(von Neumann computer architecture)去满足未来机器学习(machine learning)和神经网络处理(neural network processing)的需求,会相当有挑战性。
此外,随着摩尔定律(Moore’s law)所预言的趋势陷入停滞,必须付出更高的成本才能提升效能,问题变得更严重。
为了协助业界提供更优质的AI科技,Blumind共同创始人兼技术长John Gosson研发类比半导体架构执行神经网络处理,已取得专利。连同CEORoger Levinson在内,Blumind的三位创始人在半导体业界共有超过70年的资历。
Mathur说,Blumind架构的运作方式和人脑类似;人脑就是经过长时间的训练,才可以藉由眼睛、耳朵、鼻子等生理传感器接受到的信息,作各种决定。
他也指出,Blumind的类比架构可减少100至1,000倍的耗能,对永续环境非常重要。根据业界评估,若AI效率保持目前水准,AI运算可在30年内消耗现今90%由人类制造的能源。他说,这显然无法达到环境永续,机器学习必须以更有效率的方式执行。
利用类比架构减少耗能理论上可行,但Mathur表示,要能用于大量生产的状况是另一连串不同的挑战;这项解决方案还必须在极端温度等环境下稳定运作,Blumind已一一克服这些困难。
锁定边缘人工智能(edge AI)
Blumind的解决方案可用于众多领域,目前先锁定边缘AI推广;根据Mathur说明,是指那些使用电池、在电源或温度控制上受限制的传感器和装置。
他举例,Blumind的科技可用于汽车或智能交通(smart mobility)装置的镜头上,协助车辆或装置闪避物体。也适合使用神经网络的心电图(ECG)监测、血糖监测器,直接在病人体内侦测、处理传感器所蒐集到的数据,只会消耗少量电力,甚至支持能量采集(energy harvesting)。
Blumind的解决方案也可应用于增实境(AR)装置。Mathur说,AR需要大量运算,又因为装置小、要求极短的反应时间,在电源、延迟(atency)和温度上都有限制。Blumind的芯片可以让AR装置在不配备大型电池的情况下,有效率地处理手势信息。
台湾是发展亚洲市场的跳板
Mathur表示,Blumind于2023年1月完成第二轮募资,接下来将往A轮募资努力。他说,目前和几家顶尖公司合作定义产品,希望未来芯片投产时,这些公司能成为潜在客户。
Mathur也说,Blumind希望和台湾的半导体产业接触,除了因为有台积电、联电等知名企业,也因为该公司的解决方案可用于像智能传感器和智能城市等,这些应用在亚洲和欧洲发展较快速。Blumind希望以台湾为出发点,未来进军更大的亚洲市场。
Mathur已和台湾的半导体生态圈有部分接触,获得令他印象深刻的回馈。他将到台湾参加COMPUTEX 2023,也说他非常期待到访和面对面交流的机会。
责任编辑:陈奭璁