AI应用从云端向边缘运算延伸 智能终端装置的跃昇

CEVA台湾区总经理于长艳(Barbara Yu)。

台湾当前半导体设计产业的两大驱动力来自人工智能(Artificial Intelligence)与物联网(IoT)相关的技术，尤其是AI的发展，更是动见观瞻，市场研究单位预测全球的AI产值从2016到2025年可望从6.4亿美元一路窜升成长到386亿美元，其同时也观察到影像识别、股市演算法交易与智能医疗三大领域发展快速，成绩斐然，更激励全球各科技大厂纷纷进一步探询AI发展的各种可能性，而AI发展与应用所带来的影响，也将改变市场现有的格局，更将翻转目前人们所所认知的生活方式。

CEVA一年一度在亚洲举办的技术盛会CEVA TECHNOLOGY SYMPOSIUM 2017研讨会于10月27日在新竹招开，这是接续深圳与上海两地而召开的技术飨宴，2017年已经是第11次主办，广受半导体、芯片设计厂商的好评，今年的重心环绕在IoT与AI上，尤其在边缘运算(Edge Computing)的发展上紧紧捉住大家的眼光。

过去在各种终端装置与嵌入式系统上蒐集到的大量数据，需要上传到云端数据中心进行分析的趋势，无法满足低延迟应用所要求快速回应的效率，透过DSP技术的快速发展，直接在边缘装置上进行数据识别与实时分析的应用，得到长足的发展契机，透过CEVA的研讨会所揭櫫DSP在AI与IoT的新形态的应用，为接续几年来的边缘运算(Edge Computing)技术的爆发式成长揭开序幕。

CEVA台湾区总经理于长艳(Barbara Yu)开场致词指出，从AI运用4个最重要的场域，包括从云端机房、通讯技术、传感器侦测与数据分析，CEVA除了云端机房的领域较少着墨之外，其余3者的应用透过CEVA引以自豪的DSP技术所展现的高效能、低功率消耗的优势，形成重要的使用范例与产品问世，这次研讨会的主题不断呼应AI从云端服务的场域中，朝向边缘运算(Edge Computing)的领域逐渐靠拢，扮演创新的要角，AI从云端服务出发，现在要超越云端服务的应用，展现更巨大的影响力。

CEVA技术研讨会探讨DSP技术的未来发展应用趋势与方向，更看到AI由云端数据中心落地之后，向边缘运算的智能嵌入式装置移转的过程，运用神经网络技术打造不同领域的机器学习应用，AI的应用，透过新型智能装置与电脑视觉的兴起，毫无疑问成为半导体与电子产业的主要成长引擎。

依据市调机构IHS Market预测，全球影像监控设备的市场规模将于2020年达到197亿美元，透过DSP技术所发展的电脑视觉应用，打造包含人脸识别、超高分辨率与场景侦测技术，使机器学习与视觉技术，让各式各样摄影装置的创新设计，可以在更多实务上的场域，大展身手。 

边缘运算的嵌入式系统推动AI革命的多面向发展

CEVA市场行销副总裁Ran Soffer针对AI的议题巧妙地提出一个图书馆与数据中心的类比，过去我们将知识存放在图书馆中，人类从图书馆获取知识后，转换成实际生活的创新，未来人类的知识将会存在云端数据中心，而智能终端装置取得AI智能之后，将造福人类日常生活的实际运作，往往我们今天的白日梦幻想，将是明日的实际场景，AI应用的面相将更千变万化。

AI技术进入边缘运算装置的趋势，已经在市面上看到重要的使用典范，除了大家耳熟能详的无人空拍机、自动辅助驾驶系统(ADAS)与自驾车发展之外，新一波发生于智能手机的人脸识别系统的诞生，声势浩大席卷大众的关注，势必成为另一个使用典范。

智能手机与自驾车系统是AI向边缘运算延伸的两经典应用，其展现出掌握最靠进数据蒐集起点装置所具备的优势，Soffer对AI边缘运算的趋势聚焦于以下几个原因：(1)低延迟性的应用需求增，因为传感器所蒐集的实时数据，驱使系统做出快速回应；(2)广泛部署的需要，为了达成任何地点、任何时间的系统运作的要求；(3)个人隐私的保障，我们不希望电子装置把我们的隐私数据传出去到云端，(4)网安防护的需要，数据上传到云端容易造成数据外泄的曝险状况；(5)云端数据传输成本高，尤其是大量以视讯为主的数据量，都会造成现有的3G、4G以及未来的5G网络的负担，成本与效益的冲击高。

Soffer强调，AI进入边缘运算领域的另一个重要的需求，就是省电效能的冲击，他举iPhone上市的十周年的产品演进的历程为例，这十年来，处理器效能成长了120倍，但是平均的电池容量才增加区区4%而已，所以省电的要求对边缘运算装置的挑战更为严苛，尤其对无法配备大容量电池的穿戴式装置，以及部分以电池驱动的智能家庭产品，省电的要求比运算效能更为显着。

这也一举激励以声音处理为主的AI应用(Sound A.I.)，需要包括语音指令启动(Voice trigger and command)，音源侦测、Always-On等技术，除了良好的声音收讯之外，或是做为听障者沟通工具(NLP for communication)的使用，甚至将来还要能够辨认出声音的主角。

由于指纹识别的技术逐渐由人脸身份识别(Face ID)所取代，这个趋势实在太夯，可预期在接下来的几个月，更多的智能手机将会大举整合AI的技术，促成更大规模的AI加速芯片与神经网络引擎的迅速发展，期盼在智能手机本身就能进行更复杂的密集运算任务，甚至进一步考量加上执行AI推论任务，将神经网络模型训练所获得的效益加以最大化，Soffer大胆预言说: 接下来几年之内，每一个具备摄影镜头的装置都会配属拥有DSP与神经网络芯片的应用。

DSP Group的语音识别与声音处理芯片  瞄准IoT与移动设备应用

DSP Group成立已经超过30年，累积至今，已经有20亿个配备声音处理器的电子装置出货，聚焦于主要的领域包含智能家庭、智能手机与智能办公室等关键应用，尤其是使用在移动设备上包括声音启动、语言查询、语音指令、双向语音传输与对讲、语音识别等使用范例与应用，对于以优雅造型、智能功能及拥有杰出使用者体验取胜的智能装置而言，塑造重要的新卖点。

其语音识别与声音处理芯片具备Always-On Voice、降噪、回音消除与超低功率消耗的功能，消费者除了在不同使用情境下，用语音识别的设计，开启独特的功能之外，在车内使用配备语音识别功能的智能手机，进行包括查询地图、导航问路或是语音转文字做为简讯传输等功能，成为一时的新宠，有研究机构指出，利用语音识别来问路是语音识别最脍炙人口的主流应用，占有40%的使用率。

随着智能家庭应用配合智能音箱装置大卖之后，引起更多的声音启动与控制的应用进入家庭，DSP Group解决方案除了具备低功率消耗的设计，对于依靠电池驱动或是AC电源的智能装置都有着墨，其使用CEVA TeakLite-410的DSP核心，在语音启动时只消耗低于 0.2mA的用电，而语音侦测模式下则保持在0.5mA以下的消耗量，对电池的功率负担做了精密的计算。

此外，由于愈来愈多的装置使用多麦克风或麦克风矩阵的设计，来涵盖大部分家中空间的覆盖，所以往往为了改善多麦克风装置的收音效果，许多使用波束成形(Beamforming) 技术与声学设计(Acoustic Design)，可以提供降低喇叭震动与音源混合而影响语音识别效能的设计，利用降低噪音，改善语音指令接收与回应等功能，加强回音消除与线上收音等功能，让DSP引擎的功能发挥的淋漓尽致，使为智能家庭的应用提供另一个改善使用者体验的机会。

物联网与AI议题  型塑DSP的主流应用  生态系统扮演关键要角

CEVA技术研讨会除了早上主题演讲之外，下午的两个技术分场，分别是IoT与AI议题，透过CEVA的DSP技术，探讨电子装置的联网功能，以及AI智能功能，主要呈现在影像与视觉、声音侦测与自然语言识别、通讯网络互连与人工智能等几个实际的应用上，会场并邀请包括CEVA的技术合作夥伴一起做专题演讲，会场周边另设有互动展示摊位区，展示合作夥伴利用CEVA平台所开发的产品与应用。

产业界整合过去长期发展的电脑视觉(Computer Vision)技术，搭配AI与神经网络技术，不断的提升识别的准确率，超过人类的能力，今天视讯摄影机与配备多镜头的移动设备更是无处不在，汽车不只有外面的镜头重要，车内的镜头用以扫描驾驶人脸部表情以判断精神集中状况与预警的功能，一样关系着大众行车安全。

目前先进的AI边缘运算使用范例，已经整合既有的电脑视觉技术，加上神经网络、第三方的演算法，以及用以增快实时性反应时间的AI加速芯片组，利用CEVA-XM4与系列的引擎，全面发挥专业视觉演算法性能，推出成功的解决方案，这些解决方案无法只单靠一家厂商独立完成，从不同市场的需求，整合生态系统的力量，找出最佳的产品组合，才能抢占重要的市场，所以生态系统与技术夥伴间的合作是一切的起点。

这次一起共襄盛举的技术夥伴邀请到芯鼎科技(iCatch)、Arcsoft、Brodmann17、LG Electronics、INUITIVE、灿芯半导体(Brite Semiconductor)、Evomotion、Cyberon、Huachang与Alango，让与会者对于参展厂商所展示AI应用与软、硬件解决方案，以及相关的SoC解决方案，提供不同的选择，让CEVA的DSP技术持续往愈来愈多元化的应用领域进击。

由于AI技术仍在持续演进之中，这些重要的AI边缘运算嵌入式装置，所要面对的难题与挑战各有千秋，同时需要搭配不同的解决方案，不只是DSP核心，还需要考量神经网络的使用，根据实时性的需求，甚至需要搭配AI加速器芯片，当然演算法与软件的搭配也缺一不可。 

为了让生态系统可以完美的整合，CEVA的DSP矽智财(Silicon Intellectual Property)与整合软件技术，利用引以为傲的系统基础架构(Infrastructure)所打造的技术核心，针对视讯、语音、通讯、数据分析与AI应用的场域，无论是无线连接通讯芯片、传感器处理器，以及AI数据处理所需要的存储器带宽与独特的DSP引擎技术。

今天使用CEVA技术的芯片已经安装在琳琅满目的智能装置中，有超过90%以上的智能手机都有CEVA技术隐身其中，每年有超过1亿颗的芯片搭载CEVA的DSP引擎，透过CEVA在DSP核心多年的努力，并成功的协助世界各地的芯片设计厂商，得以加速产品开发进程，缩短产品上市的时间，扩张市场的胜利成果。 

整合AI与IoT技术势必在接下来的几年之中继续扮演重要角色，诚如DIGITIMES研究中心主任黄逸平(Eric Huang)的简报中所言，只要你的想像力无穷，你的创新就会与时俱进，数码经济成长力道将远大于实体经济上的成长，所以数码的生态系统势必成为全球经济未来的成长所系之重要趋势，毕竟自然资源有时尽，你的想像无穷时。

附档：CEVA连接产品事业部销售和市场经理Franz Dugand。