生成式AI浪潮冲击产业 重塑嵌入式设备样貌
- 郑茨云／DIGITIMES企划
-
生成式AI掀起全球科技革命浪潮，从内容创作到产业应用，此技术正以前所未有的速度重塑嵌入式产业面貌。为协助产官学各界掌握市场发展脉动，DIGITIMES特于3月13日举办「生成式AI重塑嵌入式未来」论坛，邀请多位专家，深入剖析产业脉动与技术发展趋势。
生成式AI技术已成为科技产业创新的核心驱动力，瑞昱半导体副总经理黄依玮表示，生成式AI正全面重塑嵌入式系统架构，透过优化处理器、GPU、存储器与系统设计，使嵌入式系统获得更强大的学习能力与实时决策能力。
瑞昱秉持「Connect the World」的核心使命，致力于透过有线与无线连接技术串联各类设备，实现万物互联的愿景。他强调，AI系统效能与其连结能力息息相关，设备与AI连结越紧密，智能表现越卓越，瑞昱不仅提供通讯解决方案，同时涵盖人机交互技术，为云端与边缘运算间的AI发展建构完整支持架构。
目前AI技术突破的关键在于Transformer架构，其自注意力机制大幅提升语言理解能力。未来生成式AI将与嵌入式技术深度融合，为产业带来颠覆性变革。
研华产品经理卢昱台也表示，边缘AI运算市场正蓬勃发展，预计2033年市场产值将达1,436亿美元，应用场景广泛涵盖无人机、自主移动机器人、医疗影像及机器视觉等。相较于公有云AI，边缘AI具备固定可预测成本、完全掌控数据隐私及内部可控安全机制等优势，研华提供的GUX AI工具可有效解决企业在数据安全、导入实施及预算等方面的挑战。
研华DeepSeek AI透过完整的边缘AI产品线，包括EAI加速模块、AIR系列推论系统及服务器，结合Hailo、Intel、NVIDIA等AI软件生态，加速Vision AI、生成式AI等应用场景落地。研华内部已成功将AI应用于供应链管理、研发设计及生产制造等部门，接下来将持续透过「研华AI趋势小聚系列」推动AI文化，建立Multi-Agent协作机制，以生态共创模式加速AI发展与导入。
随着物联网装置朝向轻薄短小发展，微控制器的尺寸与功耗效率成为决定产品竞争力的关键因素。德州仪器(TI)现场应用工程师陈彦廷提到，TI MSPM0系列MCU特色为超小型2x2mm QFN封装，结合ARM Cortex-M0+核心(24MHz)与先进类比功能。
支持1.62V-3.6V电压及125°C高温环境，MSPM0C系列提供8KB-16KB Flash存储器及内建12-bit ADC。此系列产品特别适合空间受限的应用，包括家电、建筑与工业自动化及个人电子设备等领域。
MSPM0C具备ADC转SPI/I2C/UART、I/O扩展、电源时序与电压监测等子系统设计功能，并支持200μs快速冷启动时间及最高16个ADC输入通道。TI提供完整的软件与开发工具生态系统，可协助工程师快速开发并实现产品原型。透过内建软件范例与即插即用的程序，开发者能有效缩短产品上市时间，同时保持极具竞争力的成本水准。
工业4.0浪潮席卷全球制造业，设备间的无缝通讯与高效连结已成为智能工厂转型的关键基石。Hilscher &亚德电子Head of APAC Market Management Mr. Olaf Kratge表示，该公司为专业工业通讯解决方案供应商，透过遍布全球的分支机构与当地经销商及技术合作夥伴网络，提供专业技术支持与服务。
Hilscher的核心优势为多协议netX技术，可同时支持PROFINET、EtherNet/IP、Modbus TCP、EtherCAT、CC-Link IE及时间敏感网络(TSN)等多种工业网络标准，大幅提升系统整合弹性。产品线涵盖高效能通讯芯片、灵活的协议支持模块，广泛应用于工业自动化、智能工厂及边缘运算领域。
Hilscher持续投入技术创新，确保产品符合最新工业通讯标准，特别侧重工业物联网与智能工厂应用的发展。未来将持续提供实时、安全、高效的通讯解决方案，确保产业设备具备高可靠性与灵活性，协助制造企业实现数码转型与智能制造目标。
随着物联网与边缘运算技术快速发展，嵌入式系统面临的电气完整性与信号品质挑战日益复杂，高精度测量工具成为工程师解决设计难题的关键夥伴。
台湾是德科技技术工程师邱柏胜提到，嵌入式系统的每一环节皆需精确测试以确保系统稳定性，其电源系统测试主要包括电源供应抑制比、电源转换、电源分配与功耗等项目，针对嵌入式系统信号测试，逻辑分析工具可对数码信号进行时序与协议层分析，协议层测试则透过波形触发解析数据传输异常。
物理层测试则需移除测试线与夹具影响，并藉由数码电压计与计数器进行高精度测量。是德科技提供从InfiniiVision HD3系列(200MHz-1GHz)到Infiniium高效能实时示波器(500MHz-110GHz)的完整产品线，并推出全新隔离探棒，协助工程师有效因应嵌入式设计的多重挑战，实现高品质的系统整合与创新应用。
物联网设备数量快速成长，网络安全已从选配功能转变为产品设计的核心要素，端点到云端的全方位安全防护成为当前最迫切的技术挑战。意法半导体(ST)技术行销经理吴祥民在论坛中，介绍如何从硬件层级建构坚实的安全防护体系。
目前ST的STSAFE产品线包含入门级的STSAFE-L、中端STSAFE-A、高端STSAFE-TPM等三大系列，其中STSAFE-L系列适用于电池身份验证、资产生命周期追踪及消耗品防克隆等应用场景。STSAFE-A系列可应用于智能家庭设备、医疗设备及电源供应系统。
STSAFE-TPM系列可强化加密标准，特别支持后量子加密与TPM韧体自修复技术。ST进一步提供安全生产与零接触云端配置服务，透过内部工厂进行安全个人化处理，预先加载加密金钥与X.509凭证，减少客户在生产过程中处理敏感数据的风险，同时可与三大公有云服务直接连接，大幅简化客户的安全导入流程。
边缘运算与人工智能技术的融合正重新定义智能设备发展方向，ADI应用工程师Neal Huang提到，ADI针对此趋势提供丰富的嵌入式解决方案，其产品线涵盖AI处理、无线通讯与低功耗运算多领域，其中RISC-V无线协同处理器强调低功耗高效能，旗舰产品MAX7800x系列AI微系统芯片包含MAX78000与MAX78002，分别针对影像与语音识别优化及提供强大运算能力。
为支持开发者，ADI提供完整开发平台如MAX78000FTHR等开发套件，并基于VS Code构建开放原始码开发环境CodeFusion Studio，支持Zephyr RTOS快速开发。该平台透过图形化界面、多核心同步除错功能提升开发效率，ADI已规划详细产品蓝图，从支持新芯片到整合更多功能，并通过技术支持中心、EngineerZone讨论区等管道提供全方位支持，致力协助开发者发挥产品潜力，推动智能边缘创新应用快速落地。
创新技术挑战市场格局 智能边缘与AI加快嵌入式创新脚步
RISC-V正逐步挑战Intel x86与ARM的市场地位，台湾RISC-V联盟会长暨晶心科技董事长林志明指出，研究机构SHD Group的报告指出，2030年起全球每年将有超过160亿颗RISC-V芯片流通，应用范围涵盖MCU、FPGA、GPU、DSP、安全芯片及AI等领域。晶心科技自2016年起专注RISC-V发展，现已推出30余款RISC-V CPU IP及AI加速器，产品线从简单控制器扩展至高效能AI/HPC运算。
在AI应用方面，RISC-V具备矢量处理器、定制化指令集扩充及可运行Linux与Android的架构优势。晶心科技AX45/46 MPV系列支持128-bit到2048-bit矢量长度，并搭配高带宽矢量存储器界面与BF16数据格式，有效提升AI运算效能。
晶心科技ACE技术提供矢量运算与数据流扩充，已获Meta、Renesas等客户应用于数据中心、AIoT及大语言模型应用。接下来RISC-V将从控制应用扩展至DSP、矢量运算，最终进军应用处理器市场。
数码转型已成各产业发展主轴，边缘智能从辅助角色进化为企业核心竞争力。Wind River Key Account Manager Bruce Sun指出，现已有75%的机器生成数据在边缘端进行处理，传统信息科技架构已难以因应相关运算需求。
完整的智能边缘生态系需整合从传感元件至云端服务的多层架构，同时支持异质运算平台。作为关键任务系统的领导厂商，Wind River深耕5G CaaS(Container as a Service)市场，旗下专为AI与大数据应用打造的eLxr Pro企业级Linux操作系统，采模块化架构设计，不仅能适应硬件资源受限环境，更提供强大的网安防护机制与实时CVE网安漏洞修补功能。
Wind River同时发布了以Debian为基础的eLxr开源专案，全面支持K8s容器调度技术，针对分散式运算环境最佳化且免费开放社群使用。在市场布局策略上，Wind River与日本乐天电信子公司Rakuten Symphony结盟，将eLxr Pro整合至其云端产品组合，并导入Container Native Storage技术，共同强化AI应用及边缘运算网安防护能力。
AI与运算能力呈爆发性成长，GPU资源管理已跃升为企业数码转型与AI创新的核心课题。INFINITIX数码无限科技CEO陈文裕指出，AI专案成功落地的关键在于GPU算力资源的有效管理，数码无限科技自主研发的AI-Stack企业级AI基础设施管理平台，透过创新的GPU切割与资源聚合技术，实现GPU动态调度。
该平台提供3种GPU配置模式，GPU分割技术适用于多个轻量级AI模型同步运行；GPU聚合架构则最适合大规模AI模型训练；GPU混合配置模式则能同时兼顾AI训练与推论服务需求。
从实际导入案例可见，AI-Stack能将GPU资源利用率大幅提升至90%，AI训练与推论效能提升10倍，开发环境建置时间从2周缩短至1分钟，整体投资效益显着成长10倍。此平台更支持日夜交替的资源排程策略，同时支持NVIDIA + AMD异质平台运算架构，可弹性配置H200 GPU执行AI训练工作负载，L40S GPU则专责推论作业，有效降低不同GPU架构的导入学习曲线。
除了多位专家的精彩演讲，论坛也邀请DIGITIMES研究中心专案经理暨IC之音节目主持人姚嘉洋与满拓科技CEO吴昕益，以「云端到边缘，AI运算的嵌入式时代来临」为题交换意见。吴昕益指出，在2022年前，边缘AI运算主要聚焦在电脑视觉领域，但2022年下半年后，AI模型参数暴增1000倍，为嵌入式系统带来巨大挑战。
2023至2024年间，产业焦点已转向如何将大语言模型(LLM)迁移至边缘装置，DeepSeek的出现更加速了这一趋势。满拓科技已与研华等工业电脑厂商合作推出Edge Server，开拓嵌入式AI市场。
值得注意的是，2024年第2季起，小型大语言模型(SLLM)成为产业新焦点，目标是在百美元以下的低成本装置上实现AI推论，但这仍面临硬件成本与存储器带宽的技术瓶颈。
嵌入式AI技术的发展也带来多项关键技术突破与市场机会，知识增强(Knowledge Injection)技术让企业能够使用较小的13B参数模型取代70B以上的大模型，有效降低运算成本。
半导体技术方面，混合封装技术缩短了运算芯片与存储器芯片间的距离，大幅提升AI运算效能，且目前28nm与12nm制程即可满足边缘AI需求。未来，AI将深度整合至人机界面，包括智能家电与汽车，而台湾厂商在ASIC定制化芯片设计方面具有独特优势，可快速投入AI芯片开发。
展望未来3至5年，他认为低功耗AI芯片将成为主流，以适应「轻薄短小」的嵌入式应用需求，不过中美贸易战可能持续影响供应链布局，台湾企业需审慎因应国际局势变化。
