智能应用 影音
innoTech2022
event

硅谷新创Expedera专访/当世界更「智能」 AI加速芯片IP商机有多大?

美国人工智能(AI)加速器IP新创Expedera在2021年底成功完成A轮1,800万美元的募资计划,将加速产品开发与市场拓展,以满足市场对深度学习加速(DLA)芯片IP的强劲需求。DIGITIMES专访Expedera技术副总裁马志华(Siyad Ma)与行销副总裁Paul Karazuba,了解Expedera眼中的市场趋势以及市场拓展计划。

问:Expedera的共同创始人们在ASIC设计以及AI软硬件开发等领域累积了多年经验,很明显你们原可舒服地在其他公司担任高端主管。是什麽激发了创业的决定? 

Siyad:2018年的时候,AI芯片非常红,几乎每10家新创里面,就有9家是在做AI芯片。身为IC设计从业人员,我们当时想,嘿!这是个做半导体新创的好时机,因为硅谷湾区已经好久一段时间没有半导体新创了。但检视产业生态时,很快就决定不想跟大多数人一样,只是把现有的GPU或CPU架构拿来加一些AI功能。因为到最后,神经网络的运作和单纯跑图、使用数据库或电子制表计算是两回事。我们认知到,市场真正需要的是专门用来执行神经网络模型的引擎架构(Engine Architecture),这就是促使我们创业的原因。不想从众做通用型芯片,因而开发出可快速执行AI推论、面积小且尽量低耗电的处理架构。

Expedera共同创始人兼技术副总Siyad Ma。Expedera

问:你们想为客户解决的痛点,是更定制化且低耗能的芯片吗?

SiyadAI引擎的趋势就是所有东西规模愈来愈大,但势必会来到某个转折点,因为不是所有的制造商都能付得起那个价格。企业需要在面积、耗电上更有效率且能达到最佳效能的AI处理方式,更多是在边缘端。这就是Expedera想提供给市场的,让所有的公司、产品和使用案例都能用上AI,而不只是Google或Facebook的。

运用边缘端处理数据,一方面是为了提升重要任务的稳定性,另一方面的确是为了省电。举自驾车为例,AI要实时做驾驶的决定,而考虑到汽车行驶速度,要在瞬时做出决策并且执行,就代表不能依赖云端,汽车厂已经明白这点。另外是智能门铃,有些能识别住户的脸以及陌生人,让住户可以不需要钥匙就进门(但这产品可能尚未普及)。虽然智能门铃执行的任务可能没有自驾车重要,但不管有没有网络连线,都能识别出熟人的脸,开门让人进入。

电力很明显是个重要考量,特别是对没有连上电网的装置而言更是如此,例如最小的边缘装置点,或大到要进行线上离驾驶的电动车都是。边缘AI的耗能比传到云端处理更有效率。提到低耗电,我们最近才发布了一个新IP,名为TimbreAI,在边缘端如耳机进行AI运算时,用电还不到300微瓦。TimbreAI就是以省电考量为目的,把AI放到边缘端的好例子。

问:要考虑到用电效率又要完成重大任务,会有什麽挑战呢? 

Siyad来找我们合作的每个客户都有在效能、电力与面积(PPA)上想达到的特定目标,以及在特殊应用遇到的限制。在了解客户设计的过程中,哪个PPA环节最重要,往往发现,客户想达到的效能超越了省电和面积限制,这样的经验令其不敢期待太高。第一个公开发表的客户从Expedera引擎获得了比我们的对手高出20倍的产出量(throughput),耗电却只有对手不到一半的用量。以客户所能接受的面积与耗电预算,来看用我们的产品能提升多少效能,是非常有趣的经验。 

问:贵公司白皮书提到, DLA IP市场规模在2021年已经超过了6亿单位(Units),并预估到2025年每年将成长26%。能否分享一下你们的手机客户如何应用产品,为智能手机添加什麽功能? 

Paul智能手机的AI应用蛮多样化,可能是用AI来侦测物体或人,或拿来为影片或录音去背景噪音,还有其他用途。举影像捕捉这个功能为例,手机品牌商在这方面特别着力想提供最好的照片和高品质影像捕捉。然而,科技进步的速度有限以及硬件方面限制,就意味着品牌商只能就现有的影像硬件与传统的影像处理演算法来想办法。有愈来愈多的手机品牌商运用AI把影像和串流的品质做最佳调校,以产出更好的照片和影片。

Expedera行销副总Paul Karazuba。Expedera

问:边缘运算市场也快速成长中,很可能会是AI加速器另一个强大需求来源。你们有看到这样的情况吗? 

Paul没错,我们正看到边缘装置采用AI的需求快速成长。初步部署AI在边缘端是为了更直接连结云端,可是那通常很耗电,效果也没有预期好,特别是当AI演算法要运用在一些重要任务型(Mission Critical)的应用时。现在AI已经转移到边缘端,包括在边缘端进行处理。刚刚提到智能手机,但AI应用已经部署到愈来愈多硬件上,例如耳机、智能门铃、扩音机、平板电脑、门禁安全镜头等。 

问:可以粗估一下成长数字吗?例如,看到那个市场每年有多少位数的成长? 

Paul每个市场成长速度都不太一样,例如已有产业分析师估算智能门铃每年成长超过20%,而门禁安全镜头市场成长速度则差不多是一半。对Expedera而言,在手机、汽车和数据中心使用AI的成长更加快速。AI已经成为最高端装置的必备条件,相信在未来几年内,大家会看到几乎所有的消费电子装置里都有AI应用。

问:Expedera是否也有策略夥伴关系并合作拓展市场?有这样的例子可分享吗? 

PaulExpedera有策略夥伴例如ASIC设计公司与AI演算法设计公司。我们一年前才结束潜水状态,2021年用一年时间专心与第一个客户合作发表其产品,并继续增加客户,现在将是我们拓展市场的时候了。主要客户都在北美和亚洲(集中在台湾、日本、韩国、国内)。 

问:是因为这些市场是消费电子的大市场,还是因为消费电子装置制造商主要都坐落在这些区域? 

Paul两者都是,我们是IP供应商,授权IP给IC设计公司,他们可能是传统芯片制造商,可能是ASIC设计公司、或是有自己的IC设计部门或外包IC设计的消费电子品牌商。由于IP的独特性,会确保与每个客户合作,而我们专注在消费电子、汽车与数码中心的垂直链中。电动车或是任何型态的自驾装置,从驾驶仪表板的低TOPS AI到PetaOPS层面的自动驾驶都适合。信息安全和智能城市也是目标市场。  

问:你们有想到台湾找合作的机会吗?

Siyad我们看到在台湾有很多合作的机会,而策略之一就是要在亚洲设立办公室,包括台湾,也考虑设立研发据点。 

美国AI加速器IP新创Expedera2021年完成A轮1,800万美元募资计划。Expedera

  •     按赞加入DIGITIMES智能应用粉丝团
更多关键字报导: 加速器 美国 硅谷 新创企业 AI 智财权