AI算力下沉终端装置 MCU架构进化驱动边缘智能落地 智能应用 影音
DIGITIMES Logo
231
DIGITIMES Logo
Event
member

AI算力下沉终端装置 MCU架构进化驱动边缘智能落地

  • 郑茨云台北

随着Edge AI加速从云端走向终端,MCU正逐步成为智能装置的重要运算核心。DIGITIMES微控制器论坛吸引产业人士与会,共同关注AI MCU、NPU及低功耗边缘运算等最新技术发展。DIGITIMES摄
随着Edge AI加速从云端走向终端,MCU正逐步成为智能装置的重要运算核心。DIGITIMES微控制器论坛吸引产业人士与会,共同关注AI MCU、NPU及低功耗边缘运算等最新技术发展。DIGITIMES摄

AI正由云端走入实体设备,智能家居、工业设备、穿戴装置与传感节点也开始具备实时感知、判断及回应能力。为掌握相关技术与商机,DIGITIMES于8月7日举办「2026微控制器论坛」。DIGITIMES整合行销处处长陈毅斌在致词时表示,MCU已由传统控制核心转为边缘智能的重要硬件,技术也由8位元走向以32位元为主,并整合NPU、异质运算及TinyML,以承载更复杂的AI模型。企业导入时,仍须在有限功耗、存储器与成本内提升效能,同时处理传感整合、开发时程与网安防护等课题。

专用加速与异质架构推升MCU效能 边缘AI加速进入多元终端

瑞萨电子业务总监卓正民。DIGITIMES摄

瑞萨电子业务总监卓正民。DIGITIMES摄

MCU导入专用AI加速器后,可在低功耗条件下处理实时推论。德州仪器展出整合TinyEngine NPU的边缘AI方案,让CPU与神经网络运算分工,支持传感分析、马达控制及异常侦测。DIGITIMES摄

MCU导入专用AI加速器后,可在低功耗条件下处理实时推论。德州仪器展出整合TinyEngine NPU的边缘AI方案,让CPU与神经网络运算分工,支持传感分析、马达控制及异常侦测。DIGITIMES摄

机器人与AI服务器带动多轴马达及高效散热控制需求。雅特力展出AT32 MCU机器人关节、灵巧手与服务器风扇方案,整合高解析PWM、ADC、CAN-FD及磁编码器界面,支持精密实时控制。DIGITIMES摄

机器人与AI服务器带动多轴马达及高效散热控制需求。雅特力展出AT32 MCU机器人关节、灵巧手与服务器风扇方案,整合高解析PWM、ADC、CAN-FD及磁编码器界面,支持精密实时控制。DIGITIMES摄

穿戴装置及智能终端需要在有限电力下持续执行AI推论。英飞凌以PSoC Edge MCU整合异质核心、NPU与图形加速能力,支持语音识别、穿戴装置及人机界面等边缘AI应用。DIGITIMES摄

穿戴装置及智能终端需要在有限电力下持续执行AI推论。英飞凌以PSoC Edge MCU整合异质核心、NPU与图形加速能力,支持语音识别、穿戴装置及人机界面等边缘AI应用。DIGITIMES摄

机器人控制与智能物联网同时要求实时通讯、精密传感及安全连线。NXP展示i.MX RT1180灵巧手方案与Bluetooth 6.3通道探测技术,支持多轴控制、EtherCAT、CAN-FD及高精度安全测距。DIGITIMES摄

机器人控制与智能物联网同时要求实时通讯、精密传感及安全连线。NXP展示i.MX RT1180灵巧手方案与Bluetooth 6.3通道探测技术,支持多轴控制、EtherCAT、CAN-FD及高精度安全测距。DIGITIMES摄

国立阳明交通大学信息工程学系副教授叶宗泰。DIGITIMES摄

国立阳明交通大学信息工程学系副教授叶宗泰。DIGITIMES摄

Edge AI Taiwan社群创始人许哲豪博士。DIGITIMES摄

Edge AI Taiwan社群创始人许哲豪博士。DIGITIMES摄

桓禾专利商标事务所所长萧乃丞。DIGITIMES摄

桓禾专利商标事务所所长萧乃丞。DIGITIMES摄

议程最后的座谈由工研院南分院专案组长黄建智(左)主持,探讨Edge AI由概念验证走矢量产时,企业面临的模型部署、开源授权、专利风险与投资效益等问题。DIGITIMES摄

议程最后的座谈由工研院南分院专案组长黄建智(左)主持,探讨Edge AI由概念验证走矢量产时,企业面临的模型部署、开源授权、专利风险与投资效益等问题。DIGITIMES摄

新创企业进入募资及国际合作前,需及早建立智财管理能力。L2Pro Taiwan提供专利申请、商标、营业秘密、着作权及AI专利布局等免费在线课程,协助团队补足智财基础。DIGITIMES摄

新创企业进入募资及国际合作前,需及早建立智财管理能力。L2Pro Taiwan提供专利申请、商标、营业秘密、着作权及AI专利布局等免费在线课程,协助团队补足智财基础。DIGITIMES摄

人形机器人与Edge AI提高MCU的运算及实时控制需求。GigaDevice展出采用ARM Cortex-M7核心的GD32H7系列,应用涵盖高精度马达控制、机器视觉、数码电源及储能系统。DIGITIMES摄

人形机器人与Edge AI提高MCU的运算及实时控制需求。GigaDevice展出采用ARM Cortex-M7核心的GD32H7系列,应用涵盖高精度马达控制、机器视觉、数码电源及储能系统。DIGITIMES摄

MCU与存储器量产需要兼顾烧录速度及产线整合。岱镨科技展出SF600Plus-G2U高速ISP烧录器与自动化IC烧录系统,支持单机、多工及ICT/FCT产线整合,提高程序烧录与生产效率。DIGITIMES摄

MCU与存储器量产需要兼顾烧录速度及产线整合。岱镨科技展出SF600Plus-G2U高速ISP烧录器与自动化IC烧录系统,支持单机、多工及ICT/FCT产线整合,提高程序烧录与生产效率。DIGITIMES摄

AIoT装置数据量以年复合成长率80%增加,若全数上传云端,带宽、延迟与成本将成为瓶颈,也促使运算走向终端。瑞萨电子台湾区业务总监卓正民指出,未来5年全球AI/ML市场规模预估达1,760亿美元,Edge AI硬件市场也将增至320亿美元。

产品设计流程因此需要改变,工程师应先确认视觉、语音或实时分析等应用,选择合适模型,再依效能、功耗与成本配置芯片。瑞萨目前聚焦实时数据分析、语音声学及视觉识别,例如利用Reality AI分析洗衣机马达的电流与扭力,预测衣物失衡;在AI数据中心及车用800V直流系统中,也能以逾95%准确率侦测电弧异常。语音应用涵盖家电指令、声纹与深伪语音识别,RUHMI框架则协助开发者将PyTorch、TensorFlow或CUDA模型转换至地端芯片。

硬件布局涵盖RL78、RX、内建NPU的RA系列,以及具备10至80 TOPS算力的RZ系列;R-Car系列则锁定车辆与人形机器人。搭配Renesas 365云端虚拟环境,工程师在取得实体评估板前即可测试模型并产生程序码,缩短开发时程。

边缘AI进入MCU后,效能评估已由CPU时脉延伸至专用加速器与模型压缩能力。德州仪器应用工程师Ava Chou提到,Edge AI将数据留在装置端处理,可降低延迟、传输功耗与带宽成本,并兼顾隐私及离线运作。

TI在MCU中导入Tiny Engine NPU,以平行运算处理神经网络的乘加运算,让CPU同步负责传感、通讯与系统控制,并支持32位元至2位元量化,减少存储器需求。产品涵盖MSPM0、MSPM33等通用型MCU,以及面向工业控制、马达驱动与电源管理的C2000、AM2x及AM3x系列。

实际应用包括温度校正、异常电弧与漏电识别、马达负载失衡及机器人关节控制,其中马达异常分类准确率可达99%以上,推论时间约0.59秒。开发者亦可透过Code Composer Studio及TI AI Hub,将PyTorch或TensorFlow模型转换并部署至MCU。

MCU市场正由通用控制走向应用导向设计,芯片厂需整合专用周边与软件工具,以缩短客户量产时程。雅特力科技产品与行销处长黄源旗指出,雅特力隶属泛联电集团,已取得ISO 26262、IEC 61508及IEC 60730等安全认证。

产品方面,采28纳米制程的AT32N5整合ARM Cortex-M4与Ethos-U55 NPU,锁定轻量级Edge AI;AT32H7则搭载主频超过600MHz的Cortex-M7。针对磁轴键盘,AT32F408利用霍尔传感器、3组独立ADC及硬件多工器,提高按键压深侦测与扫描效率。

马达控制约占雅特力营收4成,应用涵盖无刷直流马达、AI服务器散热风扇及机器人关节;一具人形机器人可能使用70至80颗MCU,单只灵巧手也可能整合30至40颗。开发端则提供VS Code外挂、AT32 AI Tool与多传感器Edge AI Sensor Board,协助工程师蒐集数据、最佳化模型并加速部署。

终端装置长时间维持AI功能,难点在于依工作负载分配算力,避免常驻任务持续启动高效能核心。英飞凌大中华区消费、计算与通讯业务产品经理许重杰表示,PSoC Edge E8系列分为E81至E84,整合ARM Cortex-M55、低功耗Cortex-M33、NNLite轻量NPU及0.1 TOPS的Ethos-U55 NPU,部分型号另配置2.5D GPU。

系统可由M33与NNLite负责背景监控,需要复杂推论时再唤醒高效能核心;相较Cortex-M4,AI效能最高提升480倍,功耗降低逾90%。在语音应用中,关键字唤醒功耗仅0.9mW,声纹识别只需3至5秒语音,准确率可达99.7%;平台也支持嵌入式小型语言模型、台语语音转文字及高分辨率图形界面。PSoC Edge并取得PSA Certified Level 4与SESIP Level 3认证,开发者可透过DEECRAFT AI Hub及ModusToolbox,在企业内部完成模型训练、最佳化、量化与部署。

实体智能进入机器人、无人机与工业设备后,MCU须同时处理AI推论、实时通讯及硬件网安。恩智浦半导体大中华区资深市场行销经理黄佳琪指出,NXP的MCX平台涵盖高端AI、通用运算、工业控制、无线联网及超低功耗应用。

其中MCX N采用双核心ARM Cortex-M33,整合eIQ Neutron NPU与EdgeLock安全区域,支持影像、语音识别及多轴马达控制;MCX W则支持Matter、Thread及Bluetooth LE 5.3。因应量子运算与网安法规,部分MCX产品已导入后量子口令硬件加速,并整合物理不可复制功能与真随机数产生器。

工业控制方面,主频超过1GHz的i.MX RT1180支持TSN、EtherCAT、PROFINET及CC-Link IE等协定,兼具实时控制与高速通讯能力。平台也延伸至无人机飞控及机器人灵巧手,单颗芯片可控制8组伺服马达。开发者可透过eIQ Studio、TimeSeries Studio及FRDM开发板,快速训练异常侦测模型并完成原型验证。

CIM与NPU突破边缘算力瓶颈  开发生态与智财防线同步成形

AI芯片增加运算单元后,实际效能愈来愈受存储器带宽与数据搬移限制。阳明交通大学信息工程学系副教授叶宗泰认为,处理器效能在过去20年间快速提升,存储器延迟的改善相对有限,形成「存储器墙」;大型语言模型推论甚至可能有逾5成能源耗于SRAM与DDR之间的数据搬移。

存储器内运算(CIM)将乘加操作移至存储器阵列内或邻近位置,以降低数据往返成本。类比CIM能源效率较高,但易受制程、温度与杂讯影响,ADC及DAC也会增加面积与功耗;数码CIM的精度、稳定性及量产兼容性较佳。

现有MCU虽整合微型NPU,本地存储器容量仍有限,运算单元经常等待数据送入,使TOPS难以充分利用。叶宗泰认为,机器人的感知、定位、碰撞侦测及路径查找需频繁存取存储器,将是CIM与TinyML的重要应用;若结合低位元量化与平行解码,未来轻量化VLA模型有机会部署于CIM-MCU,直接控制灵巧手与机器人关节。

NPU逐步进入MCU后,芯片竞争已由时脉与算力延伸至模型支持、工具易用性及跨平台移植能力。Edge AI Taiwan社群创始人许哲豪博士指出,边缘AI已由影像分类、物件侦测等监别式任务,走向生成式AI及结合感知、判断与动作的实体智能。

MCU运算架构也由提高CPU频率,发展至DSP、SIMD、Helium矢量指令及NPU专用加速器;ARM推出Ethos-U55、U65与支持Transformer的U85,恩智浦、英飞凌、瑞萨及德州仪器也各自发展NPU架构。不过,MCU的存储器容量有限,模型又需依场域调整,使演算法与芯片深度绑定的专用型MCU兴起,应用涵盖生理信号分析及家电离线语音互动。

各家IDE、编译器、量化方式及NPU格式不同,也提高跨平台移植成本。业者因此导入AutoML、一键量化及低程序码工具,并透过并购软件与开发板业者,补齐数据蒐集、模型微调、编译及部署能力;NPU能否普及,仍取决于开发工具是否足以降低量产门槛。

MCU整合的AI模型、演算法与韧体日益复杂,智财管理也须在产品开发初期纳入考量。代表创新创业总会出席的桓禾专利商标事务所所长、专利师萧乃丞表示,RISC-V及定制化异质架构可能因电路与功能重叠而误触他人专利;模型烧录至MCU后,也面临逆向工程、权重遭撷取及程序码仿制等风险。

广义MCU专利申请量自2023年起年增约20%,企业进入欧美市场时,须留意竞争者声请禁制令,以及非实施实体透过侵权警告与诉讼索取授权费。开源软件也是常被忽略的环节,若未确认授权、连结及散布条件,可能产生公开部分原始码的义务,因此应建立软件物料清单与合规审查。

萧乃丞建议采取专利与营业秘密双轨管理:硬件架构、加速方法及压缩演算法可申请专利,模型权重、核心参数与金钥则透过权限控管、加密及安全区域保存。L2Pro在线学习平台也提供相关课程,协助MCU新创建立基本智财管理能力。

新创团队进入募资、政府补助申请或国际合作阶段时,投资人与合作夥伴往往会检视技术权利归属、专利布局及营业秘密管理,智财制度是否完整也会影响企业评价。新创总会代表Mina介绍,高通在台湾设立免费的「L2Pro Taiwan」知识产权在线学习平台,协助新创公司与中小企业在产品研发及创业初期建立智财观念。

课程涵盖专利基础与申请策略、商标、营业秘密、着作权及AI专利布局,采在线弹性学习形式;完成90分钟AI专利布局课程,可取得高通核发的国际电子培训证书,完成3小时完整课程则可获得国际智财学习证书。透过系统化整理技术成果与权利归属,新创团队在后续募资、补助审查及与国际企业洽谈合作时,也能更具体说明自身技术价值与保护方式。

Edge AI迈矢量产变现  模型部署与智财合规同步把关

除了精彩演讲,这次论坛也邀请Edge AI Taiwan社群创始人许哲豪博士与桓禾专利商标事务所所长萧乃丞,以「解密边缘AI商用变现防线:开源TinyML模型部署与全球专利合规陷阱」为题进行座谈,由工研院南分院智能产业推动与应用整合组专案组长黄建智主持,探讨Edge AI由概念验证走矢量产时,企业面临的模型部署、开源授权、专利风险与投资效益等问题。

许哲豪指出,Edge AI涵盖MCU、MPU、AI PC、智能手机及服务器,不同运算层级的开发方式差异很大。大型生成式AI模型多由业者预先训练,企业可直接使用或微调;MCU与MPU上的识别型AI则高度依赖应用场域,缺乏可通用于不同产品的数据集,智能家电、传感器及物联网设备往往需要重新蒐集数据、训练模型。加上MCU的快闪存储器、SRAM与算力有限,如何压缩模型并维持识别准确度,成为量产前的主要技术门槛。

他也提醒,模型开放不代表可免费商用,程序码、预训练权重及不同版本可能采用不同授权条款。以YOLO为例,部分Ultralytics版本采AGPL授权,封闭式商业产品若未遵守开源义务或购买商业授权,日后可能面临补缴授权费及合规争议。对资源有限的小型团队而言,较可行的做法是利用开源工具快速完成概念验证,再将农业识别、设备诊断等领域知识与软硬件调校能力封装为专用装置,形成难以直接复制的产品。

萧乃丞提到,Edge AI产品的供应链包含模型库、推论引擎、芯片驱动程序、BSP、第三方中介软件、SDK及应用程序,任一环节违反开源条款或涉及专利侵权,都可能使最终产品承担法律责任。企业也须区分开源授权与专利权,即使软件采MIT或Apache等授权,仍不代表其中的方法或架构未涉及第三方专利。

因此,产品开发初期就应进行自由营运分析(FTO),利用WIPO PCT及主要市场的专利数据库检索相关权利,拆解竞争者的权利要求项,再以不同软件逻辑或技术架构进行回避设计。

智财保护则可采专利与营业秘密双轨方式,适合公开且具有长期价值的技术可申请专利;生命周期短、领先时间约半年至一年的制程参数与调校经验,则可透过权限控管、加密及保密制度保存。企业也应在研发前、研发中及产品上市后分阶段审查,持续更新软件物料清单(SBOM),并留意标准必要专利及海外市场的诉讼风险。

黄建智表示,算力下沉至MCU,为台湾IC设计、系统整合及众多中小企业带来新的产品机会,也让企业直接面对国际平台业者的竞争。台湾业者长期累积的存储器调度、低功耗设计与韧体调校能力,若能转化为专利、营业秘密或垂直应用产品,便有机会由代工与定制开发延伸至具排他性的技术资产。

不过,Edge AI产品改版速度快,企业仍须在市场时效、投资报酬与合规成本间取得平衡,让开源工具支持快速验证,智财与法务审查可及早进入产品开发流程。