边缘 AI:实时数据处理与自动化的革命
从Alexa、Google和Siri等智能家庭助理,到汽车偏离车道时通知驾驶的先进驾驶辅助系统(ADAS),这些越来越常见且更加重要的装置倚靠边缘AI提供实时处理能力。边缘AI在装置内直接运用人工智能,其运算位置靠近数据来源,而非具有云端运算能力的异地数据中心。边缘AI能缩短延迟时间、加快处理速度、降低持续联网的需求,并减少隐私方面的疑虑。这项技术代表数据处理方式的重大变革,而随着世界对实时智能的需求升高,边缘AI将继续在许多产业发挥强大影响力。
边缘AI最重要的价值是能为关键应用提供出色的速度表现。有别于云端/数据中心AI,边缘AI并非透过网络链路传送数据,及期待在合理时间内获得回应。反之,边缘AI在本机执行运算,因此具有优异的及时回应能力。边缘AI能应付许多情况,例如在工厂作业中在线执行机械视觉应用,以及一秒内迅速得知产品可能转移。同样地,没有人会希望汽车根据云端网络或服务器的回应时间来发出信号。
运用边缘 AI 进行实时处理
许多实时活动使得人们越来越需要边缘AI。这项技术的常见用途如智能家庭助理、ADAS、病患监测和预测性维护等应用。无论是快速回应居家问题、在汽车偏离车道时发出通知,或是将葡萄糖读数传送至智能手机,边缘AI能迅速做出回应并将隐私疑虑降到最低。
边缘AI在供应链领域发挥奇效,多年来有目共睹,尤其是在仓储及工厂。过去十年内,这项技术在运输业的运用也相当可观,例如送货无人机在穿越云层等条件时。此外,边缘AI正在为工程师成就大事,尤其是在医疗科技此一关键成长领域。 例如,开发心律调节器和其他心脏装置的工程师,能为医生提供可寻找异常心律的工具,指引何时应寻求进一步的医疗介入。医疗科技将持续使用越来越多的边缘AI,并建置更多能力。
生成边缘AI模型
日常生活中有越来越多系统现在都与机器学习有一定程度的互动,因此工程师和开发人员务必要了解这个领域,才能规划与使用者互动的未来。
ML技术是边缘AI最强大的发展机会,此技术根据统计演算法进行模式匹配。这些模式可能包括传感到有人在场;传感到有人刚说了某个词汇唤醒智能家庭助理,例如「Alexa」或「嘿,Siri」;或传感到马达开始晃动。对智能家庭助理而言,唤醒词是一种在边缘执行的模型,不需要将语音传送到云端。即可唤醒装置,让装置准备好接收进一步的指令。
ML模型有几种生成方式,可以使用TensorFlow或PyTorch等整合式开发环境,也可使用Edge Impulse等 SaaS平台来生成。建构良好的ML模型时,大部分的「心力」都集中于建立具代表性的数据集和妥善标示此数据集。
目前,监测式模型是边缘AI最流行的ML模型,此模型根据标示和标记的样本数据进行训练,其中输出是一个可供检查是否正确的已知值,如同老师全程查看和订正作业一样。这种训练通常用于分类工作或数据回归等应用。监测式训练虽然可能很实用且准确性高,但非常依赖标记的数据集,也可能无法处理新的输入。
执行边缘 AI 工作负载的专用硬件
DigiKey是实作边缘 AI的得力助手,因为这通常在微控制器、FPGA和单板电脑上执行。DigiKey与供应商合作,提供数代在边缘处执行ML型号的硬件。今年发表了几款出色的新硬件,包括NXP的MCX-N系列,很快也会备妥ST Microelectronics的STM32MP25系列。
过去几年,来自创客社群的开发板因执行边缘AI而广受欢迎,包括SparkFun的边缘开发板Apollo3 Blue、AdaFruit的EdgeBadge、Arduino的Nano 33 BLE Sense Rev 2和Raspberry Pi 4或5。
神经处理单元目前在边缘AI领域取得进展。NPU是一种专用IC,旨在加速处理以神经网络为基础的ML和 AI应用;其结构以人脑为基础并含有许多互连层,以及负责处理和传递信息的节点。目前打造的新一代 NPU具备专属数学处理能力,包括NXP的MCX N系列与ADI的MAX78000。
边缘装置也出现专用的AI加速器产品,该领域尚未获得定义;着名的开拓先锋包括Google Coral和Hailo 公司。
ML传感器的重要性
搭载ML模型的高速摄影机在供应链领域行之有年, 用途包括决定将产品送到仓库内何处,或是在生产线中找出瑕疵品。 供应商目前正在建立低成本的AI视觉模块,这种模块能执行ML模块以识别物体或人类。
虽然执行ML模型需要搭配嵌入式系统,但未来将会持续推出AI赋能型电子元件,包括AI赋能型传感器,又称为ML传感器。虽然多数传感器加入ML模型后并不会为应用带来更高的效率,但ML训练能让几种传感器的运作方式变得更有效率得多:摄影机传感器,其中可开发 ML 模型来追踪画面中的人和物体,IMU、加速计和动作传感器,用于侦测活动概况。
某些AI传感器预先加载可随时运作的ML模型。举例来说,用于传感人体的SparkFun评估板经过预先编程,能侦测人脸并透过QWiiC I2C界面回传信息。Arduino Nicla Vision或Seeed Technology OpenMV Cam H7等几款AI传感器更具开放性,且需要为其寻找的东西准备训练的ML模型。
利用神经网络提供运算演算法,便能在人和物体进入摄影机传感器的视野时加以侦测及追踪。
边缘AI的未来
随着许多产业日渐发展且越来越依赖数据处理技术,边缘AI将越来越普及化。随着达到更快、更安全的装置数据处理能力,边缘AI将出现巨大创新突破。我们认为有几个领域日后很快将会壮大,包括:一、运算神经网络演算法的专用处理器逻辑。二、低功率替代方案的发展 (云端运算的能源消耗量相对较庞大)。三、更多整合式/模块选择,像是结合内建传感器和嵌入式硬件的AI视觉零件。
随着ML训练方法、硬件和软件的进化,边缘AI将能呈指数成长,并为许多产业提供支持。DigiKey努力掌握边缘AI趋势脉动,期盼以丰富的解决方案、流畅互动体验、工具与教育资源,支持全球的创新工程师、设计人员、制造商和采购专业人士,为其提高工作效率。想深入了解边缘AI的信息、产品和资源,欢迎造访 DigiKey.com/edge-ai。(本文由DigiKey技术行销工程师Shawn Luke提供,DIGITIMES吴冠仪整理。)
- 精诚软件获国科会GenAI Stars生成式AI企业应用竞赛「优质创新奖」
- 运用科技力守护民众生命财产安全 精诚集团协力宜兰县政府部署AIoT智能防灾
- 晶睿通讯AI安防解决方案 导入全新AI功能RealSight Engine
- 西门子推出下一代AI加强型电子系统设计软件
- F5与NetApp加速并简化大型语言模型AI部署
- 新思科技与台积电携手 为AI与多晶粒设计加速创新
- 友讯代理A10 Networks人工智能新蓝图 驱动可靠安全环境
- 边缘 AI:实时数据处理与自动化的革命
- 迎接AI时代:数产署与资策会运用AWS技术
携手伊云谷为企业打造黄金级竞争力 - 技嘉发表开创性的Z890主机板 展现真AI 制霸效能无极限
- 昕力信息与iKala携手拓展东南亚市场 首站支持越南制造业和金融业上云
- AI视觉释放LLM完整潜力,重塑智造管理
- Hitachi Vantara推出Virtual Storage Platform One为混合云储存提供基础
- 伟康科技聚焦金管会零信任与AI最新指引 赋能金融创新
- 医扬荣获「2024中坚潜力奖」 凸显智能医疗领域的市场竞争力与永续发展承诺
- AI将改变全球的商业模式 台湾企业应把握全球变局下的AI新机遇
- AWS邀请产官专家跨界激荡 梳理AI世界的新经济发展策略
- 日本JR东海选择AWS 于山梨磁浮线推动下时代高速列车的高效营运
- 教育部推AI学习教程 台师大联手丽台深化数码教育
- Radware推出EPIC-AI,在安全解决方案和服务中增加全新AI和GenAI功能
- 趋势科技携手NVIDIA AI Enterprise强化AI部署
- QNAP发表Qsirch 5.4.2正式版 强化AI语意查找提升NAS图片查找精准度
- 威强电与翱腾国际携手打造AI个人化线上医疗照护环境
- 群联aiDAPTIV+荣获Best of Show - Most Innovative AI Application奖项
- 宜鼎携手研华 旗下MIPI镜头模块支持最新AFE-R360系统
- 趋势科技推深伪侦测方案防范AI视讯诈骗
- 高通推出Snapdragon 4s Gen 2移动平台 整合AI实现强大的移动体验
- AMD释出AMD Fluid Motion Frames 2技术预览
- ROG推出全球首款AI双模电竞屏幕
- NTT DATA推出超轻型边缘AI平台
- 优必达携手富邦金控 化身AI啦啦队前进巴黎
- 具备AI加速功能的3.5寸单板电脑IB962
- 台湾的医疗中心采用NVIDIA加速运算技术推动生物医学研究发展
- H.I.T. 医疗生成式AI研究体系:引领医疗人工智能新纪元
- HDMI协会趋势观察 AI革新电视体验 8K应用快速成长
- 生成式AI考验HPC互联 矽光子技术将成大势所趋
- 研华与臻鼎达成战略合作 AI助力共铸PCB产业数智化绿色化发展
- 医扬推搭载辉达IGX平台医疗AI PC 全球首家可量产销售公司
- 艾创点数码 共创企业AI应用新纪元
- 台达「解密Cloud to Edge AI」于COMPUTEX 2024展出驱动AI技术
- 英飞凌发布新一代PSOC Edge微控制器产品组合
- NVIDIACEO黄仁勳将在COMPUTEX 2024前发表主题演讲
- 美光率先出货关键存储器 助力 AI 数据中心
- 研华SKY-602E3 GPU 服务器 以其紧凑的塔型设计革新人工智能应用
- 洞视科技有限公司 MacroInsight:引领AI智能应用,创新多领域
- 迪威智能看准商业应用缺口 推AI会议记录及声音转换 抢攻全球市场
- 杰腾智能以生成式智能制造架构JEDAS 整合最新智能制造解决方案
- 拥有AI影像识别 iSeek创新订阅制AI服务 掀市场革命
- 精诚集团捐赠辅仁大学Gemini Data AI图数据软件
- NVIDIA生成式人工智能研究在一秒内制作出3D形状
- 瞄准东南亚牙科市场 台湾牙e通登星国最大牙材展
- Dynabook 亮相AI EXPO 2024:为企业客户带来新解方
- 丽台助阵 以AI工作站和AIDMS推动全民AI大潮
- NEC携手能火、微软为卫武营推出全球首个可互动的「生成式AI贝多芬」
- OneDegree Global推出AI风险评估 满足不断变化的合规和治理需求
- 安勤智能交通展荷兰初登场 运用AI边缘运算助力低碳永续、无缝绿运输
- HPE协助运营商在6G、人工智能时代以及长远未来取得成功
- NTT DATA携手吉嘉电子 升级MES系统 迎接智造新时代
- 戴尔科技集团助企业打造具全新AI体验的现代化工作环境
- 台湾科技助樟宜机场打造高效室内定位服务
- Cadence推出全新Celsius Studio AI热管理平台
- F5 2024网络安全预测-AI成为威胁的增强器
- Check Point揭统一且全面安全平台 开创AI驱动和云端交付网络安全未来
- 安提推出首款NVIDIA Ada Lovelace架构MXM图形模块 加速AI应用升级
- NTT DATA携手璨扬启动RISE with SAP升级上云并导入生成式AI技术
- Alibaba.com全球同步上线「AI生意助手」
- 昕力信息连续两年夺下台湾精品奖 三项MIT软件大放异彩
- 以AI融合独特五字诀营运心法 陞泰科技打造最适化智能安全监控系统
- 想像 vs. 现实:AI 视觉智造的时代?
- 2024科技趋势 - 影响安防产业的5大科技趋势
- Amazon亚马逊技术长Werner Vogels 2024年及未来技术趋势预测
- 趋势科技2024网安预测报告:科技跃进与政经局势交互作用 网安局势添变量
- 导入AI让设备变聪明 亚炬智能监测系统提高维修保养业营收
- 微软Azure OpenAI助力HAPPY GO数码化精准行销
- 昕力信息连续两年夺下台湾精品奖三项MIT软件大放异彩
- AWS与Salesforce深化合作 更轻松地建构可信的AI应用程序
- AMD为微软客户提供全新AI与运算功能
- 华硕、NVIDIA、阳明交大产学合作 培育前瞻艺术人才
- VMware扩展Tanzu平台功能 为生成式AI经济构建应用
- 人工智能和自动化:中小企业不可错失良机
- 摩尔斯微电子与Xailient携手改变智能摄影机的未来
- AIoT赋能创造多元价值 新时代智能建筑成形
- 美光推出主流PCIe Gen4数据中心 SSD
- 制造业迎接AI时代 线上设厂的革新趋势
- 零壹科技携手Pyramid Analytics为企业提供一站式智能AI决策解决方案
- 最新MLCommons AI推论结果 凸显英特尔产品在AI领域的强大竞争力
- 明基医与光明智能取得台湾第一个TFDA认证牙科AI软件
- NVIDIA Grace Hopper超级芯片在MLPerf推论基准测试中取得卓越成果
- 圆刚再推新款边缘AI运算解决方案VerMedia Box PC-D133ONB
- 威盛电子全力推动智能工厂烟火识别防爆侦准系统
- 智能制造永续的基石: AI驱动决策
- 趋势科技报告指出:2023上半年网络犯罪市场正利用AI工具提高效率
- VMware协助企业轻松驾驭生成式AI的力量
- o9引领供应链计划迈向新时代:整合生成式人工智能的顶尖计划平台
- Google Cloud与NVIDIA合作推动人工智能运算、软件和服务
- 安勤科技推出智能零售解决方案Renity AIR
- AI推论首选!华硕新一代边缘电脑PE1100N
- 高通与现代汽车集团合作为移动专用车打造信息娱乐系统
- AMD研究指出IT主管看好AI将改变其业务方式并正在加大投资
- 迎战AI新时代 HPE产业应用论坛
- AIDMS助力 中医大附医与亚大资工携手以AI助病患安心居家洗肾
- Menlo Security以AI驱动技术重新定义上网安全
- 正新橡胶扩大导入Profet AI方案
- 海韵电子助力AI产业蓬勃发展 提供环保高效的电源供应解决方案
- 淮南寰宇与法腾科技联手打造lntellinet智能网管平台
- 用AI制作形象影片,实威国际推动制造业新时代的数码转型
- 民视携光禾感知打造AI虚拟主播
- 明基材料成功导入AI应用 改善制程与突破生产瓶颈
- 万亿米智检重新定义AOI瑕疵检测准确率的新标准
- o9 Solutions以其AI赋能的规划平台革新供应商协作流程
- NVIDIA 与微软合作加速企业就绪生成式AI发展
- 戴尔科技集团和NVIDIA推出Helix计划以实现安全的地端生成式AI
- SAP助力企业拥抱AI致胜未来
- NVIDIA:全球需求量大 AI芯片销中禁令扩大应无伤短期营运
- 身心财都要健康 Lydia AI 再推APP助健康及财务规划
- ChatGPT应用于制造业有谱? 工研院机械所:可朝7大方向发展
- 亚博福尔摩沙全代理语音智能客服 开展客服新时代
- 全球AI服务推展进入战国时期 国家团队整合已成必行之势
- 透过AI演算分析模块o9致力永续指标纳入供应链规划流程
- DUGAA透过AI协助企业效率化分析海量数据
- AI视觉打造Gogoro人机协作未来产线
- Beseye云守护研发最新AI监控解方
- 安图斯AI运算平台 为企业和教育领域提供可靠解决方案
- 手机市场难乐观 日零组件厂期待车载拉业绩
- 迪威智能Noise Eraser:提升音讯品质,重新定义声音体验
- 搭载AI智能商机 精联电子首创5G工规移动电脑并支持ARCore技术
- 新思科技推出Synopsys.ai为芯片制造商打造全面性AI驱动EDA套件
- 创鑫智能云端用人工智能推论芯片在AI世界评测赢得最佳能效比
- 从AI到LLM:建置有序的人工智能模型作业流程
- 安勤科技投资柏瑞医 合作开发AI疾病辅助筛检系统
- cacaFly强化云端技术力 通过Google Cloud 专业认证
- Moldex3D 2023实现未来塑造
- 精诚与Gemini Data领先于台湾推出OpenAI商业应用
- 晶睿通讯整合旗下新品建构全方位AI安防解决方案