奥畅云推出SaaS-In-Chip新利器 打通Edge AI任督二脉

不论行业，举凡云端运算、人工智能 (AI) 俨然成为大势所趋，企业只要善用这些技术，即可实现数据预测与营运布局，有效提升竞争力。然而，随着全球云端技术发展至今，风向似乎出现转变，分散式的「AI at the Edge」逐步于各智能应用场域掀起浪潮。

影响所及，无论交通、零售、农业、制造、城市基础建设...等多样化场景，皆出现日益高涨的 Edge AI 部署需求，且不同领域需求互异，为技术供应商创造无限商机，更重新定义软硬件服务与应用。

为协助台湾 ICT 产业掌握 Edge AI 商机，Allxon 奥畅云邀集诸多产业领袖及软硬件企业代表，于日前举办「SaaS-In-Chip X 服务赋能」记者会暨论坛，盼藉由趋势与实例分享，协助产业人士精准掌握 Edge AI 最新技术与应用，及早布局产业新蓝海。

藉由软件加值硬件，抢占 Edge AI 先机

作为本次论坛的亮点开场，「Edge AI 的未来价值／整合云端服务的商业模式与应用」焦点对谈由 DIGITIMES 顾问分析师兼总监黄建智担任主持人，与谈人包括 Allxon 奥畅云董事长陈炫彬、凌华科技董事长刘钧，及 NVIDIA 副总经理林敬祖。

黄建智指出，在「软硬整合」、「边缘运算」等关键趋势带动下，Edge AI 的重要性扶摇直上，以致各界急欲探究——在 Edge AI、工业电脑 (IPC)、产业应用等元素的交互激荡下，产业将爆出何等火花? 又，如何透过软件加值硬件，带动台湾 ICT 产业迎向下一波 Value Up?

林敬祖认为， Edge AI 未来将呈现三大发展趋势：首先，Edge AI 模型越来越聪明、服务项目越来越多，这意谓着它必须拥有实时处理不同 AI 模型的能力，因而需要借重更强的服务器运算力；其次，在 5G 加持下，Edge AI 可有效降低延迟、确保作业实时顺畅，对交通、物流、零售、制造等攸关生命财产安全的「Mission Critical」而言，极具关键推动成效。

至于第三项趋势，当面临各行各业接连投入发展 Edge AI 的大局，ICT 产业不能只关注硬件运算资源，同时需注重软件工具及平台，方能协助客户加速发展其领域的 AI 应用。所谓软件平台须具备「Cloud-Native」、「End-to-End」两项要素，以利企业透过云端强化 AI 管理、部署及网安。

刘钧表示，谈到 Edge AI，个中重点即是「边缘 (Edge)」，以「分散式」云端运算架构取代「集中式」云端运算架构，管理难度相对更高；此外，各产业应用环境截然不同，Edge AI 更具备碎片化、异质化的特徵。由此可见，Edge AI 虽缺乏 PC 时代的 Wintel 公版规则，而垫高了产业切入门槛，但也因? 尚无大厂一统江湖，产业更是蕴含无限商机。

刘钧认为，面对 Edge AI 大未来，台湾拥有绝佳优势：一是各界不断提倡的软硬整合；台湾于 PC 及手机时代无缘扮演先行者，惟今涉及多元智能应用的 Edge AI 市场尚无标准可循，亦未见龙头出现，台湾只要善用半导体的雄厚实力，将芯片与软件整合为模块，即可快速切入，唯有整合方能抢得先机。其二，欲抢滩 Edge AI 市场，除了靠硬件，更需靠软件；现今不论软硬件皆呈现碎片化，足见 Edge AI 市场诸多环节尚未就绪、商业模式混沌不明，形同一滩「浑水」，但台湾相较许多国家更早进入此领域，握有「浑水摸鱼」先机。

陈炫彬呼应刘钧的妙喻，认同「浑水摸鱼」的重要性，但要想成功摸到鱼，须拿出真功夫，特别是软件领域。他指出，Edge 装置的应用环境复杂且具分散式特色，驱使 Allxon 奥畅云决心打造「化繁为简」的平台，给予用户最实时、易上手的服务，只要 Edge 装置出现状况，奥畅云都能在数秒内排除障碍，让用户的 Edge 装置迅速恢复正常运作，不致冲击 Mission Critical 的应用。

陈炫彬更提及另一个重点，在于台湾 ICT 产业必须实现软硬整合、厚植加值能量。为此，Allxon 奥畅云立基于 SaaS 平台，积极与 MCU、IPC 等许多硬件厂商合作，希冀贯彻 SaaS-In-Chip 创新观念与做法，加速促成软硬整合，为终端用户提供最实时的服务、确保其营运不中断。

借助好的装置管理模式，让 PoC 真正推进为商模

刘钧指出，以分散式系统而论，一旦被部署到众多不同案场，接下来的重大议题，便是如何有效管理散布各处的装置，此时即需仰赖好的装置管理平台。不可否认，国际上已存在许多 Cloud-Native 的装置管理平台，但市面上的平台在处理 Edge 端的问题时，始终存在鸿沟。因此，他盛赞 Allxon 奥畅云提出的 SaaS-In-Chip 确实是弭平这道鸿沟的好解方，它让终端用户透过简单的方式轻易管理部署出去的大量 Edge 装置，甚至发挥预测性维护功效；只要 Allxon 奥畅云持续完善 SaaS-In-Chip 技术，便能由概念验证 (PoC) 阶段成功推进至商业模式。

林敬祖表示，为协助产业界补强前述的「鸿沟」，NVIDIA 也致力提供多项奥援。例如 TAO 工具套件，其中包含许多针对不同产业的高准度预训练模型，使用户无需从零开发即可建构 AI 模型。另外提供 Fleet Command，数分钟内便能为数百、数千甚至数万台装置迅速布建 AI 模型，同时保障数据传输过程安全无虞。此外，NVIDIA 亦透过工业元宇宙方案，让用户在高度拟真的虚拟世界中模拟 Mission Critical 情境，反覆直至能够熟练应对后，再将 AI 模型套用至现实世界。

陈炫彬期许，Allxon 奥畅云能透过软件为硬件加值，让台湾已具相当火候的 ICT 产业更上层楼。他同时认为，台湾非常适合走「蚂蚁雄兵」的软件发展模式，以服务不同垂直领域的分散式 Edge 装置，顺势为台湾坚强的硬实力基础巧妙堆叠软实力，促使台湾整体产业的价值迅速跃升。

SaaS-In-Chip 服务赋能，让各种角色同蒙其利

除精彩的 Panel Discussion 焦点对谈外，Allxon 奥畅云悉心安排丰富的 Keynote 议程。首先登场的讲者为 NVIDIA 资深经理戴宏展，他提到在近十余年急速发展下，AI 影响力扩及产业价值链的设计、制造、供应链、服务等各个环节，其中 Edge AI 发展潜力尤其惊人，预期将在智能制造、交通运输、半导体等8大领域合计创造逾4.8万亿美元产值。

考量业者进军 Edge AI 时，多会在扩展性、自主与感知、功能安全、可部署性及可管理性等条件遭遇挑战；NVIDIA 提供多项武器，协助用户逐一突破这些瓶颈。例如透过 TAO 工具套件提供上百个预训练模型，让用户结合自身 Dataset，加速打造适用 AI 模型。另针对机器人、影像分析、语音对话等垂直应用，分别提供 Isaac、DeepStream 和 RIVA 等应用程序框架。此外，针对 NVIDIA Jetson 开发者，提供带有加速效果的 JetPack SDK，内含传感器、SDK、服务与产品等生态系，助力加快硬件开发速度。

接着由研华科技物联云事业群副总经理鲍志伟登场。他表示桥水基金创始人 Ray Dalio 曾说，唯有「生产力」才是迎向未来的关键；同理，Edge AI 能否实现商业价值，关键亦在生产力。

鲍志伟指出，2022年 Embedded World 主题为「Moving Intelligence from Cloud to Edge」，看来似乎有先云后边的意味，其实并非如此。「AI at the Edge」的触发点 (Trigger Point)，绝对源于 Edge 端的实际需求，为满足需求、带动服务提升，才促使管理服务平台应运而生，从而触发更多应用创意、形成正向循环。因此他认为，Edge AI 最大的商机在于「AI PaaS」，包括服务器算力、虚拟技术、线上管理功能，皆是构成 AI PaaS 的要素，也是实践 AI PaaS 商业模式的关键。

新唐科技资深工程师杜俞辉，以新唐提供的 NuMaker-RTU-NUC980 (简称为『Chili』) 开发板为轴心，述说 SaaS-in-Chip 的赋能价值。他指出，Chili 奠基于工控等级 NUC980 MPU，板上含两大重要元件：一是 Allxon plugIN，透过 GPIO 串联 Edge 装置；另一则是 Allxon Agent，经由以太网络连结 Allxon 奥畅云设备管理服务平台 (Allxon Portal)。

经由 Allxon plugIN 与 Allxon Agent 互连，一方面可将 Edge 装置的主机板状态上传 Allxon Portal，另一方面亦能促使 Allxon Portal 对 Edge 装置进行控制。此架构设计对开发者十分有利，只因 Chili 与 Allxon Portal 的整合路径已预先铺设完成，不需费时撰写太多程序码，只需稍加修改 Allxon plugIN 即可实现所需 I/O 配置，最后，再将 I/O 配置文件上传 Allxon Portal，便能快速建立线上装置管理服务机能。

最后一场 Keynote 由 Allxon 奥畅云CEO刘厚仪担网演说，他指出，Allxon 奥畅云汇整大量夥伴的回馈，得知他们十分担心客户端的系统无预警当机，导致被迫派工处理、耗费可观成本。为此，Allxon 奥畅云在力推 SaaS-In-Chip 技术之余，也一并推广 OOB 频外管理技术 (Out-Of-Band Technology) ，其实时性、有效性与直觉性使 SI (系统整合商) 能轻易于线上执行灾难复原，达成降低派工需求及提升服务品质的目的。

谈到 Allxon 奥畅云为何强调 SaaS-In-Chip? 刘厚仪认为，对于 IHV，SaaS-In-Chip 是统包式解决方案 (Turnkey Solution)，可直接进行定制功能 Design-in；对于代理业者，在销售硬件之余可借此提升附加价值、开创商业利益；对于 SI 或 MSP (营运服务商)，不需二次开发、开箱即用。显而易见，SaaS-In-Chip 让各种角色皆能得利，激发了 Edge AI 商机潜能，正是其核心价值之所在。