Blumind以类比半导体架构助力AI推论 智能应用 影音
工研院
ST Microsite

Blumind以类比半导体架构助力AI推论

  • 陈芃台北讯

由于现行电脑系统结构(computer architectures)的限制,AI发展和使用遭遇严重的能源不足问题。为了解决这项挑战,加拿大新创Blumind发明类比半导体架构,可以低耗能的方式有效支持神经网络。

Blumind共同创始人兼营运长Niraj Mathur表示,该公司2022年送交制造第一颗芯片,已取得良好成果;目前正在设计更多测试芯片,目标在2024年投产。

Niraj Mathur是Blumind的共同创始人兼营运长。Blumind

Niraj Mathur是Blumind的共同创始人兼营运长。Blumind

低耗能的半导体架构

创立于2020年的Blumind,希望以自身的半导体技术促进AI推论。Mathur说,AI的「训练(training)」是以巨量数据训练神经网络;AI推论是训练后的下个阶段,是神经网络要去执行的功能。

他举例,镜头采用经过训练的神经网络,可以判断蒐集的画面里是否有人类出现,这就是AI推论。这个不断重复的过程会消耗AI大部分的工作量,因为必须随时提供最佳的使用者经验。

Mathur表示,业界已在发展高效率、永续性的AI上碰到困境。首先,要以使用数十年的冯纽曼架构(von Neumann computer architecture)去满足未来机器学习(machine learning)和神经网络处理(neural network processing)的需求,会相当有挑战性。

此外,随着摩尔定律(Moore’s law)所预言的趋势陷入停滞,必须付出更高的成本才能提升效能,问题变得更严重。

为了协助业界提供更优质的AI科技,Blumind共同创始人兼技术长John Gosson研发类比半导体架构执行神经网络处理,已取得专利。连同CEORoger Levinson在内,Blumind的三位创始人在半导体业界共有超过70年的资历。

Mathur说,Blumind架构的运作方式和人脑类似;人脑就是经过长时间的训练,才可以藉由眼睛、耳朵、鼻子等生理传感器接受到的信息,作各种决定。

他也指出,Blumind的类比架构可减少100至1,000倍的耗能,对永续环境非常重要。根据业界评估,若AI效率保持目前水准,AI运算可在30年内消耗现今90%由人类制造的能源。他说,这显然无法达到环境永续,机器学习必须以更有效率的方式执行。

利用类比架构减少耗能理论上可行,但Mathur表示,要能用于大量生产的状况是另一连串不同的挑战;这项解决方案还必须在极端温度等环境下稳定运作,Blumind已一一克服这些困难。

锁定边缘人工智能(edge AI)

Blumind的解决方案可用于众多领域,目前先锁定边缘AI推广;根据Mathur说明,是指那些使用电池、在电源或温度控制上受限制的传感器和装置。

他举例,Blumind的科技可用于汽车或智能交通(smart mobility)装置的镜头上,协助车辆或装置闪避物体。也适合使用神经网络的心电图(ECG)监测、血糖监测器,直接在病人体内侦测、处理传感器所蒐集到的数据,只会消耗少量电力,甚至支持能量采集(energy harvesting)。

Blumind的解决方案也可应用于增实境(AR)装置。Mathur说,AR需要大量运算,又因为装置小、要求极短的反应时间,在电源、延迟(atency)和温度上都有限制。Blumind的芯片可以让AR装置在不配备大型电池的情况下,有效率地处理手势信息。

台湾是发展亚洲市场的跳板

Mathur表示,Blumind于2023年1月完成第二轮募资,接下来将往A轮募资努力。他说,目前和几家顶尖公司合作定义产品,希望未来芯片投产时,这些公司能成为潜在客户。

Mathur也说,Blumind希望和台湾的半导体产业接触,除了因为有台积电、联电等知名企业,也因为该公司的解决方案可用于像智能传感器和智能城市等,这些应用在亚洲和欧洲发展较快速。Blumind希望以台湾为出发点,未来进军更大的亚洲市场。

Mathur已和台湾的半导体生态圈有部分接触,获得令他印象深刻的回馈。他将到台湾参加COMPUTEX 2023,也说他非常期待到访和面对面交流的机会。


责任编辑:陈奭璁