深度学习加深嵌入式系统朝向智能化的发展
- 魏淑芳
-
由于大数据分析(Big Data Analytics)与人工智能(AI)技术的推波助澜，使得更多的智能装置与嵌入式系统不断的推陈出新，进入高速发展的阶段，人工智能与机器学习(Machine Learning)俨然形成一个成长快速的利基，除了帮助企业自动执行较单调的例行事务之外，也可透过分析数据，发现原本未见的趋势，一举改善顾客服务的进程，甚至开拓全新的应用。
亚马逊(Amazon)在西雅图所开设第一家高科技便利商店Amazon Go，是AI技术发展的一个指标性的案例，其最大卖点为顾客将完全不需排队结帐，利用监视镜头与其他传感装置，来收集顾客在店内活动的各项相关信息，电脑系统能够自动识别顾客拿取的商品种类与数量，并将明细与费用记录在顾客的亚马逊帐号内的服务，将对零售产业带来革命性的变革。
此外，在嵌入式系统所用的技术领域，举凡智能装置所需要面面俱到的相互连结的能力，随着各式各样的产业通讯标准的制定，涵盖包括3G/4G基带、Wi-Fi、Bluetooth BLE和Zigbee，等数个不同无线通讯的领域，创造出许多不同的市场区隔与产品。
这些散布在各个场域的电子传感器与智能装置，预计到2020年时，全世界会有超过500亿的电子装置互连，所以从传统的Wi-Fi、Bluetooth和Zigbee以及更多延伸的无线传输规格，竞逐着不同领域的应用，固然各种的室内区域、智能家庭或智能城市解决方案，正如过江之鲫般，努力寻找自己的市场定位，单一装置中所需具备的多重无线通讯标准，无论选择是Wi-Fi、蓝牙或Zigbee等多重的组合，往往也关系着电子装置的成本与耗能，而频谱的使用也是兵家必争之地。
对芯片设计业者而言，除了Wi-Fi与蓝牙之射频(RF)系统解决方案的推出之外，尤其以利用LTE第四代移动通讯频谱所建立低功率消耗、低成本的长距离广域连接的物联网通讯标准，广受到芯片业者的青睐与关注。
短距离间的互连规格与考量，固然是重要，但是对于走出户外的嵌入式智能装置，当跨越大的野外距离的应用逐渐崭露头角，许多新的应用如智能农业与长距离运输车队的管理等应用开始崭露头角，长距离式的连接需求于是开始浮上台面，这也是诸如3GPP等国际组织紧锣密鼓地制定NB-IoT、LTE-M与EC-GSM等三大低功耗长距离无线网络标准。
低功耗广域网通信技术(Low Power Wide Area)所带领嵌入式智能装置即将以30%的年复合成长率(CAGR)高速成长，至2022年将有21亿个广域联网智能装置问世，对于众所瞩目的应用领域，包括智能城市、智能电表、水表与瓦斯表的用途，以及户外贩卖机(Vending Machine)等应用，将成为一个众所期待的重要成长引擎，在未来几年内发展，势必受到更大的关注。
电脑视觉技术的演进 提升机器学习效能
在物联网(IoT)狂飙的时代，云端服务已从以往的数据中心，转向边际运算(Edge Computing)等新一时代的物联网装置发展，透过更多的传感器、与本地处理(Edge Processing)的运算能力，嵌入式SoC芯片所研发的各式产品，包括盒型电脑(Box PC)、智能闸道器(Gateway)、加上低功耗广域网通信技术，让嵌入式智能系统可以独立运作的趋势，愈来愈受到瞩目。
人工智能(AI)技术所开创产业的重大里程碑，是藉由深度神经网络(DNN)用来发展机器学习系统，可望为人工智能与大数据分析带来革命性的变革，并已经为语音识别和翻译、医疗分析和自驾车等高难度应用的发展带来曙光。
这种特别适用于以GPU为主的平行处理技术与新的运算模式，全面地整合了硬件、深度学习软件，以及多样化的开发工具，能够协助产品开发工作具备快速部署能力，并使嵌入式系统快速取得产业先机，并开启一连串的产业新应用，这波由机器学习技术扮演着关键要角的进展，也为相关公司带来惊人的成长。
举例来说，在嵌入式视觉应用领域，藉由智能端点闸道器(Gateway)就近判断，利用低分辨率影像的高压缩比率的静态视讯串流，一旦侦测画面改变时，则动态改成高解析、低压缩的清晰视讯等智能的应用，兼具效能与成本的设计，让影像串流的应用得到更具经济效应与智能应用的用途。
对于以FPGA芯片为主的发展，整合APU、GPU与HEVC视讯编解码器、可编程逻辑等SoC芯片，充分利用基于机器学习的传感器融合(Sensor Fusion)技术、先进电脑视觉演算法，以及实时物体侦测和分析功能，让嵌入式视觉技术快速应用于下一代视觉系统，以协助嵌入式系统制造商克服电脑视觉(Computer Vision)所需面对的各种独特的挑战。
软件加值服务的开发蔚为风潮
软件加值服务因应这波由机器学习与大数据分析所引发的风潮，使得软件所需要的开发环境与界面受到广泛的注意，特别是以深层神经网络架构所开发的深度机器学习技术，因为考量嵌入式系统在存储器容量与运算能力上的限制，许多人工智能技术的发展朝向使用离线运算的环境，先在一个外部系统中发展机器学习的开发，举凡包括Caffe、TensorFlow训练架构开发的网络，然后再将机器学习的结果转移到嵌入式系统上。
这样一个机器学习系统的软件开发环境，部分以DSP技术为主的应用，透过类神经网络产生器，用来将复杂的神经网络结构转换为在实时情况下使用的定制化神经网络模型，采用灵活性高与模块化设计的应用软件开发套件，巧妙地搭配受到功耗和存储器带宽限制的嵌入式系统的设计，开启了适用于需要快速反应、低延滞忍受度，以及不需仰赖云端服务才能运作的人工智能的应用，整合更多的传感器、更多的联网智能装置，更加方便。
软件加值服务在医药运输服务的产业中，也看到新的商机，例如许多的药物在运送的过程中，对温度的控制非常的敏感，利用嵌入式系统透过各式各样的传感器所量测到参数，经过不同的软件演算法的计算，能够预测出不同的药品经过不同的运输载具与耗费时间对产品所产生的冲击，所以补救的措施可以及时发挥效果，让药品得以顺利安全的抵达目的地，以救助重要的伤患，所以利用精密演算法所打造的软件产品将持续扮演着关键的地位。
今天电脑视觉、深度学习演算法、传感器融合等技术，从影像识别应用引领机器学习的风潮，结合低功耗与机器学习的技术，以及特殊软件演算法，使得自动影像识别的应用，可以透过电池而长时间的运作，是一个具备高度的弹性应用的解决方案。
这种以电池驱动、长时间使用的人工智能视觉传感器，对于现今高龄化社会所普遍需要解决的长照与老人安养的需求，非常有助于多样化的解决方案的提供，配合机器学习的技术，以及启动应变机制的解决方案，符合智能医疗与智能城市的解决方案的需求，提供从传感装置、闸道器、云端网络、数据中心到无所不在的智能个人助理(Personal Advisor)，对于改善都市生活与增进人类福祉，做出更重要的贡献，对产业界而言，机器学习技术正大幅地改变企业经营模式，对生产力重新定义，也对经济带来巨大且深远的影响。
