嵌入式系统导入AI元素  关键仍在应用落地与技术升级

AI的发展对嵌入式系统的应用升级带来相当大的益处，不少业者已积极布局，为客户解决实际场景的疑难杂症；为一窥产业当前发展全貌，DIGITIMES于3月上旬举办嵌入式系统开发应用论坛，就相关的系统与芯片发展状况进行完整探讨。DIGITIMES摄

嵌入式系统在产业上的发展由来已久，从芯片、软件到系统端，无不与嵌入式系统有所关连，从应用领域来看，如工控、智能工厂与智能城市等垂直应用，也多与嵌入式系统脱不了关系。另一方面，AI近年来的发展已有一定的成熟度，对嵌入式系统的应用升级带来相当大益处，且早有不少业者积极布局，为客户解决诸多实际场景的疑难杂症。为能一窥近年嵌入式系统产业发展的全貌，DIGITIMES日前举办嵌入式系统开发应用论坛，就相关的系统与芯片发展状况进行完整探讨。

学术界师法自然，提升AI运算效率表现

在学术研究领域上，国立清华大学电机工程系教授郑桂忠表示，清大有一个AI芯片团队，成立已有十几年时间，研究内容包括嗅觉系统，就是俗称的电子鼻，以及视觉系统，并聚焦在AI芯片的开发上；在与国科会讨论之后，决定将近年来的研发成果进一步以微型无人机作为应用的平台。

随着AI模型的日新月异，与需要的算力不断提高，近期业界的讨论，开始探讨Neuromorphic Computing(神经型态运算)相关的硬件未来可以怎麽发展。郑桂忠话锋一转，他以自然界的昆虫为例，如蚊子，人类要想打到牠可说相当困难，但蚊子本身的脑容量极为有限，却能闪过人类的攻击，若能将蚊子本身所拥有的智能模型嵌入至微型无人机上，并将载重、效率等因素考量进去，这样子的设计概念，对于相关应用的发展或许会是相当大的突破。

进一步来看，个中关键主要有三：模型、架构与传感器。在模型训练上，尝试以昆虫为师，在昆虫以有限的神经元处理避障工作这件事上，找出合适的AI模型。架构方面，则是希望打破过往处理器与存储器之间的数据搬运设计，减少存储器能与处理器之间的距离，甚至是采用in-memory computing，减少不必要的搬运工作，借此提升运算效率。最后一个关键则是传感，郑桂忠教授直言，以人类的视网膜来说，所看到的成像再传到大脑的信息，其实很多已经是经过处理之后的数据了，这些数据仅保留变动部位或外框架信息，如此一来大脑所要处理的数据量也能大量减少，而清大团队所着力之处，就是依据这三个关键进行研究与开发。

AI落地需因应实际场景，也需思考个资隐私问题

帝濶智能总经理兼共同创始人邹耀东则是从数据安全与隐私角度出发，探讨嵌入式系统在AI功能发展下，业者如何兼顾个网安全与隐私问题。邹耀东谈到，AI的发展与衍生的应用服务，无不与数据的取得有密切关系，唯有如此才能加速AI模型的生成，但与此同时个资隐私问题也伴随产生，这是个取舍议题。

且不论是移动终端或是嵌入式系统的开发，都有网安风险存在，一旦发生，衍生的赔偿问题甚至连公司商誉都可能受到相当大损害，因为消费者或是企业客户根本无从知道，自身所产生的数据会流窜到什麽地方？被何人所使用？所以对系统开发者来说，这是需要审慎思考的议题，而帝濶智能以差分隐私技术开发出数据与人脸影像隐私保护解决方案，其中影像的去识别化技术能在影像取得的第一瞬间即进行处理，让肉眼难辨，却不影响电脑识别的准确度，能兼顾个资隐私与AI模型训练的发展，让人脸识别等应用服务的商业模式能持续发展。

安提国际Jetson产品事业部负责人林宏达则是以边缘AI落地为题，尝试以软硬件整合的角度出发，来探讨嵌入式边缘AI系统在部署上，会遇到什麽样的难题。林宏达指出，在AI推论端的系统上常会遇到两个问题，一是系统的部署，二是推论功能该用什麽平台来实现？安提国际是宜鼎的子公司，主要以NVIDIA的软硬件解决方案协助客户达成边缘AI的落地应用，硬件方面以NVIDIA的嵌入式Jetson系列解决方案与显示卡产品为主，软件方面则有NVIDIA TAO、Fleet Command与Triton Inference Server为主。

林宏达谈到，如果客户所面临的场景是智能城市或是分散式网络，势必会面临大量的边缘系统的建置，随之延伸的就是要如何缩短部署成本，以及该如何进行大量的系统更新。而在AI推论系统的设计上，除了有NVIDIA的解决方案外，若客户想导入ASIC为基础的系统，安提也能提供对应的支持，同时满足系统的线上除错需求，来减少不必要的时间成本。

凌华科技智能视觉事业中心解决方案技术主任洪靖哲则是进一步延伸边缘AI的议题，分享AI视觉在诸多垂直应用场域的实际案例。洪靖哲以台湾某一中小代工厂为例，该公司曾因为出货给国外车厂的料件出现短缺，造成该公司必须按约赔偿，该公司当时是以传统人力来进行料件包装的检查，但人工作业总会有疏失与疲劳的情况，后来在导入AI视觉技术之后，就解决此一问题。洪靖哲强调，AI的导入并不是要取代传统人力，而是要让人力去处理更有价值的事情，让AI处理重覆且又能精确判断的工作，如此分工才能获取最大的价值。

除了凌华科技在AI视觉有所布局外，宜鼎近年来也相当积极，以AMD旗下的FPGA方案为基础打造AI视觉解决方案。宜鼎国际嵌入式周边部资深专员陈聿扬谈到，虽然市场普遍对宜鼎的印像是储存方案领导业者，但在AIoT的布局上其实相当完整，除了子公司安提国际以NVIDIA的软硬件方案打造边缘AI系统之外，宜鼎本身就有完整的工业级摄影镜头模块方案，旗下的各个子公司也有提供通讯模块与环境传感解决方案，此外也有完整的软件开发套件对应微软与Linux等操作系统。整体而言，是以FPGA为其核心，串联宜鼎的软硬件方案，软件面可充分开发不同的应用程序与多元的AI模型，同时也备有不同的模型库可供客户使用。

垂直应用吸引国内储存业者进军，研华亦布局电子纸多元场景

在工业与车用储存领域，近期江波龙电子也开始推出许多产品线，抢食宜鼎与宇瞻等大厂的市占率。该厂商为国内业者，2017年收购美光旗下的消费性品牌雷克沙(Lexar)之后，让江波龙的储存产品布局更加完整。江波龙电子产品客户经理黄健兴指出，在垂直应用领域，江波龙的旗下品牌为Foresee，锁定工业、服务器与车用等应用。

存储器方面，三大主要存储器业者都是主要的供应商，控制芯片则有慧荣等业者，让江波龙得以专心开发韧体与后端的模块测试，借此提高自身产品竞争力。黄健兴透露，江波龙设有品质与测试工厂，后端产线设备具备相当程度的规模，同时也能满足车规AEC-Q100的认证测试，也因此江波龙已在2022年推出车用eMMC产品线，目前已经送到国内主要车厂进行认证测试。而在台湾工业电脑市场，江波龙也相当积极，预计明年就能看到初步的成果展现。

研华业务处业务副理锺翊达，则是分享研华在电子纸的布局。研华现阶段在电子纸的显示尺寸的产品线相当完整，从2.9寸到31.2寸都有供应，加上研华本身也有无线网络闸道器，所以可以满足各种应用场景，如智能工厂与智能城市等；如果需要线上更新也相当容易，从4G、蓝牙、Wi-Fi与NFC等无线网通技术，研华皆能支持，在场景应用上已相当成熟。

MCU、MPU与无线联网，仍是嵌入式系统重要关键

谈到嵌入式系统的应用开发，仍然少不了主要半导体大厂在软硬件解决方案的投入。众所皆知，意法半导体在MCU(微控制器)领域向来扮演领导角色，在众家MCU业者中，也是少数有提供搭载GPU硬件加速器的厂商之一，其主要目的就是要深化显示界面相关应用的市场基础。意法半导体亚太区产品行销经理张世昌表示，意法的MCU广泛支持不同的显示器界面与存储器规格，因为如果要扩充多元的显示应用，存储器的外挂扩充势不可免，如此才能让整体系统运作稳定。综观意法旗下的MCU产品线，目前有支持GPU显示的大致可分为四类，一是意法推出有一段时间的MPU，另外三类则全为MCU产品线，依其产品功能与扩充能力的有无高低分成三种型号，其中像是近年推出的STM32H7与U5，已经可支持到2.5D的显示功能，为显示能力的最高级别。

在MCU之外，意法半导体在NFC相关的嵌入式领域也着墨甚深。NFC/RFID策略行销经理黄镫谊谈到，NFC之所以重要，原因在于该技术本身就具备电力传输的规格，在传输数据时也无需消耗任何电力，更无需任何配对程序，所以相较于蓝牙或是Wi-Fi等常见无线技术，NFC仍然有其发挥的舞台与空间。

此外NFC也具备NDEF(NFC Data Exchange Format)功能，让装置间进行数据交换的同时，无需安装任何应用程序，对于使用者来说，可以大幅提升其易用性。黄镫谊透露NFC无需应用程序的原因，在于常见的操作系统如Android、iOS与Windows 10等，都已经支持NDEF功能，以智能手机来说，就可以直接读取并启动该档案，因此便利度上并不亚于前述谈到的其他联网技术。

德州仪器嵌入式处理器产品经理Rich Chen指出，过去台湾市场对于德仪的嵌入式处理器产品主要印象以Sitara处理器为主，近年则新开辟一条MCU产品，锁定高性能应用场景，目前以搭载双核的Cortex-R5F CPU为主，未来也会朝更多核心数量，或是导入M85、R52等最新等级CPU规格的方向发展。而在车用领域，德仪的耕耘也没有间断，除了过去的车载资通讯领域外，在ADAS领域，德仪车用处理器的总出货量累积超过1.3亿颗，居于市场龙头地位。

德仪目前的嵌入式处理器产品大致上分成四类，分别为泛用型、网通、DSP(数码信号处理器)与分析类别，最后一类主要因应近年AI需求高涨，应对不同算力需求，搭载对应的AI硬件加速器，算力范围为1TOPS到32TOPS之间。

Silicon Labs FAE经理林仕文则是聚焦近年所兴起的Matter技术，就该技术的发展进行探讨。林仕文指出，尽管物联网发展已有相当长一段时间，但碍于各大联盟与技术阵营的门户之见，造成消费者在终端产品之间的互通互连上有着相当大的障碍，Matter的面世就是希望解决此一问题。Matte针对方便性、互通性、可靠度与网安等四个面向展开，进一步统合Wi-Fi、Thread、BLE、Ethernet等，就网络堆叠中的应用层加以统一，省去开发者在网络底层开发的负担，进一步加速该技术的普及与渗透率，目前已在2022年10月推出1.0版本，预计近期就会推出1.1版本，好让各个阵营能有依归。

最后，欧尼克斯实境互动工作室许哲豪以MCU出发，探讨如何用MCU实现TinyML微型电脑化视觉。广泛来看，MCU本身的运算能力与存储器资源相当有限，要实现电脑视觉相对不易，但以ARM阵营来说，不论是ARM、意法半导体与恩智浦都有提供对应的开发软件与套件，让工程师能在ARM平台上进行相应的开发，与此同时，MCU的发展路径也从核心数量增加、时脉频率升级与NPU的导入，让MCU处理AI运算工作变得更加容易。