边缘 AI:实时数据处理与自动化的革命 智能应用 影音
Event
DFORUM

边缘 AI:实时数据处理与自动化的革命

  • 吴冠仪台北

从Alexa、Google和Siri等智能家庭助理,到汽车偏离车道时通知驾驶的先进驾驶辅助系统(ADAS),这些越来越常见且更加重要的装置倚靠边缘AI提供实时处理能力。边缘AI在装置内直接运用人工智能,其运算位置靠近数据来源,而非具有云端运算能力的异地数据中心。边缘AI能缩短延迟时间、加快处理速度、降低持续联网的需求,并减少隐私方面的疑虑。这项技术代表数据处理方式的重大变革,而随着世界对实时智能的需求升高,边缘AI将继续在许多产业发挥强大影响力。

边缘AI最重要的价值是能为关键应用提供出色的速度表现。有别于云端/数据中心AI,边缘AI并非透过网络链路传送数据,及期待在合理时间内获得回应。反之,边缘AI在本机执行运算,因此具有优异的及时回应能力。边缘AI能应付许多情况,例如在工厂作业中在线执行机械视觉应用,以及一秒内迅速得知产品可能转移。同样地,没有人会希望汽车根据云端网络或服务器的回应时间来发出信号。

运用边缘 AI 进行实时处理

许多实时活动使得人们越来越需要边缘AI。这项技术的常见用途如智能家庭助理、ADAS、病患监测和预测性维护等应用。无论是快速回应居家问题、在汽车偏离车道时发出通知,或是将葡萄糖读数传送至智能手机,边缘AI能迅速做出回应并将隐私疑虑降到最低。

边缘AI在供应链领域发挥奇效,多年来有目共睹,尤其是在仓储及工厂。过去十年内,这项技术在运输业的运用也相当可观,例如送货无人机在穿越云层等条件时。此外,边缘AI正在为工程师成就大事,尤其是在医疗科技此一关键成长领域。 例如,开发心律调节器和其他心脏装置的工程师,能为医生提供可寻找异常心律的工具,指引何时应寻求进一步的医疗介入。医疗科技将持续使用越来越多的边缘AI,并建置更多能力。

生成边缘AI模型

日常生活中有越来越多系统现在都与机器学习有一定程度的互动,因此工程师和开发人员务必要了解这个领域,才能规划与使用者互动的未来。

ML技术是边缘AI最强大的发展机会,此技术根据统计演算法进行模式匹配。这些模式可能包括传感到有人在场;传感到有人刚说了某个词汇唤醒智能家庭助理,例如「Alexa」或「嘿,Siri」;或传感到马达开始晃动。对智能家庭助理而言,唤醒词是一种在边缘执行的模型,不需要将语音传送到云端。即可唤醒装置,让装置准备好接收进一步的指令。

ML模型有几种生成方式,可以使用TensorFlow或PyTorch等整合式开发环境,也可使用Edge Impulse等 SaaS平台来生成。建构良好的ML模型时,大部分的「心力」都集中于建立具代表性的数据集和妥善标示此数据集。

目前,监测式模型是边缘AI最流行的ML模型,此模型根据标示和标记的样本数据进行训练,其中输出是一个可供检查是否正确的已知值,如同老师全程查看和订正作业一样。这种训练通常用于分类工作或数据回归等应用。监测式训练虽然可能很实用且准确性高,但非常依赖标记的数据集,也可能无法处理新的输入。

执行边缘 AI 工作负载的专用硬件

DigiKey是实作边缘 AI的得力助手,因为这通常在微控制器、FPGA和单板电脑上执行。DigiKey与供应商合作,提供数代在边缘处执行ML型号的硬件。今年发表了几款出色的新硬件,包括NXP的MCX-N系列,很快也会备妥ST Microelectronics的STM32MP25系列。

过去几年,来自创客社群的开发板因执行边缘AI而广受欢迎,包括SparkFun的边缘开发板Apollo3 Blue、AdaFruit的EdgeBadge、Arduino的Nano 33 BLE Sense Rev 2和Raspberry Pi 4或5。

神经处理单元目前在边缘AI领域取得进展。NPU是一种专用IC,旨在加速处理以神经网络为基础的ML和 AI应用;其结构以人脑为基础并含有许多互连层,以及负责处理和传递信息的节点。目前打造的新一代 NPU具备专属数学处理能力,包括NXP的MCX N系列与ADI的MAX78000。

边缘装置也出现专用的AI加速器产品,该领域尚未获得定义;着名的开拓先锋包括Google Coral和Hailo 公司。

ML传感器的重要性

搭载ML模型的高速摄影机在供应链领域行之有年, 用途包括决定将产品送到仓库内何处,或是在生产线中找出瑕疵品。 供应商目前正在建立低成本的AI视觉模块,这种模块能执行ML模块以识别物体或人类。   

虽然执行ML模型需要搭配嵌入式系统,但未来将会持续推出AI赋能型电子元件,包括AI赋能型传感器,又称为ML传感器。虽然多数传感器加入ML模型后并不会为应用带来更高的效率,但ML训练能让几种传感器的运作方式变得更有效率得多:摄影机传感器,其中可开发 ML 模型来追踪画面中的人和物体,IMU、加速计和动作传感器,用于侦测活动概况。

某些AI传感器预先加载可随时运作的ML模型。举例来说,用于传感人体的SparkFun评估板经过预先编程,能侦测人脸并透过QWiiC I2C界面回传信息。Arduino Nicla Vision或Seeed Technology OpenMV Cam H7等几款AI传感器更具开放性,且需要为其寻找的东西准备训练的ML模型。

利用神经网络提供运算演算法,便能在人和物体进入摄影机传感器的视野时加以侦测及追踪。

边缘AI的未来

随着许多产业日渐发展且越来越依赖数据处理技术,边缘AI将越来越普及化。随着达到更快、更安全的装置数据处理能力,边缘AI将出现巨大创新突破。我们认为有几个领域日后很快将会壮大,包括:一、运算神经网络演算法的专用处理器逻辑。二、低功率替代方案的发展 (云端运算的能源消耗量相对较庞大)。三、更多整合式/模块选择,像是结合内建传感器和嵌入式硬件的AI视觉零件。

随着ML训练方法、硬件和软件的进化,边缘AI将能呈指数成长,并为许多产业提供支持。DigiKey努力掌握边缘AI趋势脉动,期盼以丰富的解决方案、流畅互动体验、工具与教育资源,支持全球的创新工程师、设计人员、制造商和采购专业人士,为其提高工作效率。想深入了解边缘AI的信息、产品和资源,欢迎造访 DigiKey.com/edge-ai。(本文由DigiKey技术行销工程师Shawn Luke提供,DIGITIMES吴冠仪整理。)

议题精选-AI专栏