CEVA拓展人工智能用于边缘运算的产品组合

2018年CEVA技术论坛，CEVA市场行销副总裁Moshe Sheier接受采访实况。

人工智能(AI)持续演化的动能惊人，让智能手机、视讯监控、机器人、汽车、医疗与工业领域都产生惊天动地的转变，直接影响到包括商业、经济与社会的各个层面，原本在云端机房的智能功能正逐步转移到边缘运算的装置中，这些在云端数据中心采用大量数据来做为神经网络训练所获得的结果，变成AI推论，移转到嵌入式系统所组成的边缘装置中，做为智能应用的重要延伸，尤其在影像与声音识别的功能上，在固定与局限的应用领域中，甚至比正常人更能胜任日复一日的单调性的工作，而创造许多令人瞩目的智能服务。
 
AI芯片的诞生既是这个趋势发展的重要一步，传统上使用包括图形处理器(GPU)、可程序逻辑闸阵列(FPGA)和数码信号处理器(DSP)核心都可以组合而做AI芯片，而嵌入式系统上的AI芯片发展以DSP走得更快，CEVA是全球最大的经营DSP授权的厂商，其产品线也从DSP平台为主的IP组合中，增到人工智能(AI)处理器的IP产品线。

CEVA全球营运目前有320人的团队，持续经营绵密的客户关系与提供完整的客户服务，全球前十大半导体芯片制造商有九家使用CEVA相关的IP核心来设计各式各样的独特的芯片，全球每年超过10亿颗内含CEVA的DSP核心芯片出货与上市，无论是电脑视觉、声音处理、物联网(IoT)联网与5G/LTE等无线传输通讯系统所需要的信号处理的芯片，都可以找到CEVA的DSP核心的足迹。

CEVA看重AI相关的芯片在接下来的四年中高达59%的年复合成长率(CAGR)的成长大势，并有50%的智能手机在接下来的几年内会大量使用AI芯片，消息不断的5G智能手机也将在2019年的下半年上市，面对大量的AI在边缘运算上的爆发式的成长，广泛应用在通讯、联网、多媒体与物联网等应用的解决方案中。

CEVA于2018年针对产品组合重新做出规划，以迎接AI芯片的大幅度成长，拜CEVA 年度的2018亚洲技术研讨会之赐，在会场访问CEVA市场行销副总裁Moshe Sheier先生，对边缘运算与AI应用两股重要的趋势相遇所产生的新发展，以及产业动态，提供他的观察。

五大产品组合迎接AI在边缘运算的成长大趋势

AI朝边缘运算节点拓展主要是因为低延迟(low latency)、低功率消耗(low power)、低成本(low cost)、高隐私权保密(high privacy)和高可靠性(high reliability)的殷切需求，持续席卷所有的新装置的发展所触发。

CEVA做为全球最大的DSP授权供应商，需要快速满足芯片客户的需求，于是在新产品在线投注大量的资源，所以2018年对CEVA而言是忙碌与充实的一年，一举将产品线拓展成五大主要的分类，分别是边缘运算AI (AI at the Edge)、视觉(Vision)、语音(Sound)、移动通讯(Cellular)和网络连接(Connectivity)，其中边缘运算AI产品线的上市，更是创CEVA成立超过25年来第一次发行非单纯DSP的产品，以回应市场上对边缘运算的AI产品的需求。
 

由于AI芯片还是一个新兴的领域，使用GPU、CPU或是TPU的芯片所打造的智能系统都各擅胜场，CEVA这次所发表的五大产品线着重于发挥边缘装置使用AI技术的最大潜能，提供芯片厂商对下一时代的智能的嵌入式系统，完成一块最重要的技术拼图。

除了边缘运算的发展之外，DSP核心对IoT装置联网很倚赖的蓝牙5.0与Wi-Fi 6(802.11ax的新改名称)的联网芯片，都产生重要的使用范例，对于新兴的5G时代的基站与网通设备使用的芯片，DSP更是不可或缺的重要信号处理的技术核心。

鉴于全球数十亿计的视讯监控摄影机与各式各样的影像识别装置在接下来的5年内的成长，对使用由CEVA的XM系列的DSP核心所设计的AI芯片来扩大产品的效能，有高度的期待，在声音识别或是声音指令启动的嵌入式装置的需求也不遑多让，以这次在CEVA亚洲技术研讨会邀请的AbiliSense公司的产品为例，其能够识别包括婴儿哭声在内的特殊意义的声音，这些愈来愈有趣的声音识别与语音处理的功能，Sheier表示，让智能嵌入式装置可以愈来愈像人类一样，甚至渐渐比人类更擅长识别某些特定的声音，这些新兴的应用都让CEVA的DSP授权的生意走的更茁壮与更成功。

CEVA边缘运算AI产品线粉墨豋场

AI新产品线由NeuPro处理器IP与软件的组合所整合而成，专为边缘运算的整合而设计，具备强大的市场机会，由NeuPro所打造的AI芯片具备强大的NPU(Neural Processor Unit)运算效能，范围从入门级的2 TOPS到最高级配置的12.5 TOPS的产品效能，CEVA的更重要的整合就是CDNN(CEVA Deep Neural Network)的软件产品，因为不同的芯片厂商需要强调定制化与差异化的芯片能力，而透过神经网络软件架构的支持与加值，是重要的手段。

CDNN软件来有效支持不同神经网络软件架构，降低进入AI领域时存在于架构和软件方面的进入门槛，寻求以简化的方式来快速掌握深度神经网络技术所提供的功能，目前一共支持包括TensorFlow、Caffee与ONNX(Open Neural Network Exchange)格式的三种常用的AI软件架构，对于启动的智能嵌入式系统的设计，取得相当重要的地位。

由于在边缘装置上的AI功能并不会使用类似于数据中心中采用大量数据来训练神经网络，比较多的需求会着重在AI推论的执行，所以CEVA的CDNN可以将浮点运算的数据转化成固定16位元格式的数据，除了维持AI推论所需要的精确度之外，还可以具备低功率消耗的重要的诉求，这对嵌入式系统是一个重要的成功关键。

对于部分的AI用在嵌入式系统中，有一个需求是AI再训练的功能，例如在已经训练完毕的AI推论的结果，可以透过CEVA的AI再训练功能，由嵌入式系统上执行，强化对部分的语音指令的识别能力，这个作法对于需要额外提供本地方言(如台语)等语音指令的训练与识别的用途，提供解决的办法，有助于本地化的智能医疗装置，改善使用者使用情境。

IoT的市场随着AI与5G技术的发展更臻于活泼与多样化，从影像识别到声音识别的应用中，不断发现新的创意与发掘新的智能应用，这些不同的应用随着使用者体验的改善而逐渐茁壮，有些应用碍于使用者对影像信息外流而有安全疑虑时，反而改成在语音识别方面的应用，受到更多的青睐，原本需要用影像传感器的场域，利用麦克风收音与识别，反而以成本与功率消耗上的优势而纷纷胜出。

所以声音识别甚至是使用固定的声音指令的识别功能，处理固定字串的语音指令的用途愈来愈宽广，除了微处理器之外，也刺激高端的MCU(微控制器)等半导体解决方案也得以获得商机，而受到关注，毕竟全功能的AI方案，牵涉到个人隐私的影像与照片的处理，消费者或多或少在网安议题上，仍会陷入长考与疑虑。

CEVA凭藉多年在DSP核心的耕耘，并一举跨入NPU的核心的产品线，透过长久积累的成功经验，并且在口碑、品质与技术的创新能力上，信誉卓着，获得台湾客户的青睐与高度赞扬，由于边缘运算与AI的结合已经是成为一个主流的趋势。

从CEVA合作的技术夥伴与生态系统所看到的这些众多的使用范例，得到许多佐证，而且还高速不断向前演进与变化，边缘运算上的应用随着更多的AI芯片的诞生，用途愈臻丰富，当智能家庭中的视讯监控系统，随着可以识别家人与非家人的功能发生之后，对于像智能门锁等关键的家用装置，也透过视觉传感器的配置之后，而有全新的定位，而类似于科幻电影的生活场景，其实离我们今天实际的现场好像并不遥远，AI的未来充满的惊奇，让我们拭目以待。