边缘 AI：实时数据处理与自动化的革命

从Alexa、Google和Siri等智能家庭助理，到汽车偏离车道时通知驾驶的先进驾驶辅助系统（ADAS），这些越来越常见且更加重要的装置倚靠边缘AI提供实时处理能力。边缘AI在装置内直接运用人工智能，其运算位置靠近数据来源，而非具有云端运算能力的异地数据中心。边缘AI能缩短延迟时间、加快处理速度、降低持续联网的需求，并减少隐私方面的疑虑。这项技术代表数据处理方式的重大变革，而随着世界对实时智能的需求升高，边缘AI将继续在许多产业发挥强大影响力。

边缘AI最重要的价值是能为关键应用提供出色的速度表现。有别于云端／数据中心AI，边缘AI并非透过网络链路传送数据，及期待在合理时间内获得回应。反之，边缘AI在本机执行运算，因此具有优异的及时回应能力。边缘AI能应付许多情况，例如在工厂作业中在线执行机械视觉应用，以及一秒内迅速得知产品可能转移。同样地，没有人会希望汽车根据云端网络或服务器的回应时间来发出信号。

运用边缘 AI 进行实时处理

许多实时活动使得人们越来越需要边缘AI。这项技术的常见用途如智能家庭助理、ADAS、病患监测和预测性维护等应用。无论是快速回应居家问题、在汽车偏离车道时发出通知，或是将葡萄糖读数传送至智能手机，边缘AI能迅速做出回应并将隐私疑虑降到最低。

边缘AI在供应链领域发挥奇效，多年来有目共睹，尤其是在仓储及工厂。过去十年内，这项技术在运输业的运用也相当可观，例如送货无人机在穿越云层等条件时。此外，边缘AI正在为工程师成就大事，尤其是在医疗科技此一关键成长领域。 例如，开发心律调节器和其他心脏装置的工程师，能为医生提供可寻找异常心律的工具，指引何时应寻求进一步的医疗介入。医疗科技将持续使用越来越多的边缘AI，并建置更多能力。

生成边缘AI模型

日常生活中有越来越多系统现在都与机器学习有一定程度的互动，因此工程师和开发人员务必要了解这个领域，才能规划与使用者互动的未来。

ML技术是边缘AI最强大的发展机会，此技术根据统计演算法进行模式匹配。这些模式可能包括传感到有人在场；传感到有人刚说了某个词汇唤醒智能家庭助理，例如「Alexa」或「嘿，Siri」；或传感到马达开始晃动。对智能家庭助理而言，唤醒词是一种在边缘执行的模型，不需要将语音传送到云端。即可唤醒装置，让装置准备好接收进一步的指令。

ML模型有几种生成方式，可以使用TensorFlow或PyTorch等整合式开发环境，也可使用Edge Impulse等 SaaS平台来生成。建构良好的ML模型时，大部分的「心力」都集中于建立具代表性的数据集和妥善标示此数据集。

目前，监测式模型是边缘AI最流行的ML模型，此模型根据标示和标记的样本数据进行训练，其中输出是一个可供检查是否正确的已知值，如同老师全程查看和订正作业一样。这种训练通常用于分类工作或数据回归等应用。监测式训练虽然可能很实用且准确性高，但非常依赖标记的数据集，也可能无法处理新的输入。

执行边缘 AI 工作负载的专用硬件

DigiKey是实作边缘 AI的得力助手，因为这通常在微控制器、FPGA和单板电脑上执行。DigiKey与供应商合作，提供数代在边缘处执行ML型号的硬件。今年发表了几款出色的新硬件，包括NXP的MCX-N系列，很快也会备妥ST Microelectronics的STM32MP25系列。

过去几年，来自创客社群的开发板因执行边缘AI而广受欢迎，包括SparkFun的边缘开发板Apollo3 Blue、AdaFruit的EdgeBadge、Arduino的Nano 33 BLE Sense Rev 2和Raspberry Pi 4或5。

神经处理单元目前在边缘AI领域取得进展。NPU是一种专用IC，旨在加速处理以神经网络为基础的ML和 AI应用；其结构以人脑为基础并含有许多互连层，以及负责处理和传递信息的节点。目前打造的新一代 NPU具备专属数学处理能力，包括NXP的MCX N系列与ADI的MAX78000。

边缘装置也出现专用的AI加速器产品，该领域尚未获得定义；着名的开拓先锋包括Google Coral和Hailo 公司。

ML传感器的重要性

搭载ML模型的高速摄影机在供应链领域行之有年， 用途包括决定将产品送到仓库内何处，或是在生产线中找出瑕疵品。 供应商目前正在建立低成本的AI视觉模块，这种模块能执行ML模块以识别物体或人类。   

虽然执行ML模型需要搭配嵌入式系统，但未来将会持续推出AI赋能型电子元件，包括AI赋能型传感器，又称为ML传感器。虽然多数传感器加入ML模型后并不会为应用带来更高的效率，但ML训练能让几种传感器的运作方式变得更有效率得多：摄影机传感器，其中可开发 ML 模型来追踪画面中的人和物体，IMU、加速计和动作传感器，用于侦测活动概况。

某些AI传感器预先加载可随时运作的ML模型。举例来说，用于传感人体的SparkFun评估板经过预先编程，能侦测人脸并透过QWiiC I2C界面回传信息。Arduino Nicla Vision或Seeed Technology OpenMV Cam H7等几款AI传感器更具开放性，且需要为其寻找的东西准备训练的ML模型。

利用神经网络提供运算演算法，便能在人和物体进入摄影机传感器的视野时加以侦测及追踪。

边缘AI的未来

随着许多产业日渐发展且越来越依赖数据处理技术，边缘AI将越来越普及化。随着达到更快、更安全的装置数据处理能力，边缘AI将出现巨大创新突破。我们认为有几个领域日后很快将会壮大，包括：一、运算神经网络演算法的专用处理器逻辑。二、低功率替代方案的发展 (云端运算的能源消耗量相对较庞大)。三、更多整合式／模块选择，像是结合内建传感器和嵌入式硬件的AI视觉零件。

随着ML训练方法、硬件和软件的进化，边缘AI将能呈指数成长，并为许多产业提供支持。DigiKey努力掌握边缘AI趋势脉动，期盼以丰富的解决方案、流畅互动体验、工具与教育资源，支持全球的创新工程师、设计人员、制造商和采购专业人士，为其提高工作效率。想深入了解边缘AI的信息、产品和资源，欢迎造访 DigiKey.com/edge-ai。（本文由DigiKey技术行销工程师Shawn Luke提供，DIGITIMES吴冠仪整理。）