DIGITIMES

如果Physical AI遭受攻击呢?(上)入侵

徐宏民
2026-11-23

下一代实体AI(Physical AI)的全新样貌将会是「自主性」(autonomy):机器人从栅栏里、从预先规划好的路在線,走进开放场域,接到一个指令,自主完成指定任务。

能力增加、自主性提高,一旦出错,影响也跟著变大。

數字AI出错,常先表现在文字、程序或信息上,也比较容易撤回或修正;但机器人出错,可能直接在实体世界造成不可逆的损害。

要避免这类损害,机器人「安全」可以先从3个层面看。功能安全(safety)处理系统本身出错时不伤人,专栏先前谈过。另外2层是網安(cybersecurity)与对抗式攻击(adversarial attack),处理的是有人刻意让机器人出错。这篇先谈網安,从汽车产业经历过的说起。

延伸报导专家讲堂:VLA机器人的「安全」该如何设计?

2015年,2位網安研究员透过车载娱乐系统的移動網絡连线,線上让一辆行驶中的休旅车失去动力,也能在低速时让煞车失灵,车厂随后召回约140万辆车更新軟件。數據被偷已经很麻烦,车子被掌控更可怕。想像同一款车有几千臺同时被線上控制,就像網絡上的僵尸網絡(botnet),只是被操控的是路上的车。

所以车子已有严格的網安要求。2024年7月起,欧盟所有新车都纳入规范,车厂得建立符合UN R155的網安管理系统,相关车型才能取得型式认证。美国更多了地缘政治的考量。2025年1月定案的规定,限制与中国、俄罗斯有充分关联的特定车联网硬件、軟件与自动驾驶軟件进入美国市场;軟件从2027年式车款起适用,硬件从2030年式起。范围包括车载通讯模塊(TCU)、蓝牙、移動網絡、卫星与Wi-Fi等让车辆与外界连线的元件。

机器人呢?

机器人已经出现类似的漏洞。2025年3月,两位研究人员发现一家机器人大厂的一款机器狗,出厂就装了第三方的線上连线服务。透过这个服务的網絡界面,任何人都查得到哪些机器狗正在在線,不必登入就能看到它的實時画面,缺省口令没改的,还能被完全控制。半年后,同一批研究人员又公开该厂的蓝牙漏洞。攻击者可以取得最高权限,被入侵的机器人还能自动感染蓝牙范围内的其他同厂机器人。这几款机型共享同一套有漏洞的蓝牙设定机制,一个漏洞因此能传遍整批。

數據被偷的风险也一样。德国一家应用研究机构购入市售人形机器人做第三方测试,发现它持续把數據传回厂商服務器,说明文件里没有提到。另有網安公司观察到遥测數據定时传往境外。

问题也可能出在云端。2026年2月,一位工程师原本只是想用游戏手把操控自己买的扫地机器人,借助AI程序助理解析它与云端的通讯,却意外取得24个国家、近7,000臺同款机器的存取权,可以看到實時画面、听到麦克风声音,也能取得屋内平面图。厂商随后更新修补。这次出问题的是云端服務器的权限控管,一个漏洞就可能同时暴露整批产品。

车子的地缘政治考量,已经延伸到机器人。2025年12月,美国联邦通讯委员会(FCC)把外国生产的无人机与关键零组件列入限制清单,新机种无法取得进入美国市场所需的认证。2026年7月,范围扩大到机器人。具备傳感器、網絡连线,以及自主或線上控制軟件的移动机器人,包括自主移动机器人(AMR)、人形与四足机器人,连扫地机器人也算在内。外国生产的新机种原则上都受到限制,軟件的定义还涵盖AI模型权重。固定式的工业机械手臂不在范围内,既有的认证也不会因此失效。厂商若要申请例外,得揭露股权、供应链与網安等信息,并提出在美国建立或扩大生产的时程。

车子在加上产地限制之前,已经有網安认证。机器人目前还没有像车子那样专门的强制认证,但相关规范正陆续上路。欧盟的網絡韧性法案2027年底全面推行,聯網机器人得符合網安要求才能进入欧盟市场,新版机械安全法规也把防止遭恶意窜改列进基本安全要求。业界也已有移動,一家车用網安公司已把产品延伸到机器人,从部署前的攻击验证做到上线后的监控。

汽车产业过去的網安经验可以借用。上市前的網安认证、出厂后的漏洞通报、軟件更新的管理、供应链来源的审查,车厂花了将近10年建立起来。一次軟件更新会同时送到大量车辆上,机器人用同一套韧体、同一个更新管道,情况也一样。机器人走进开放场域的速度可能比车子更快,这些准备在大量部署之前完成,会比事故之后再补容易得多。

不过,这些做法防的都是有人入侵系统。如果攻击者根本不必入侵呢?有人恶意误导机器人呢?我们下篇来谈。

台灣大學信息工程学系教授,曾任富士康集团与Stellantis合资车用科技公司技术长暨副总经理,推动ADAS及智能座舱系统产品进入全球车用市场。纽约哥伦比亚大学电机博士,专精于机器学习、电脑视觉、自驾车、机器人等领域。为讯连科技研发团队创始成员,慧景科技(thingnario)共同創始人,NVIDIA AI Lab計劃主持人;曾任IBM华生研究中心及美国微软研究院客座研究员。担任多家科技公司AI策略顾问,习惯从学术与产业双重视角检验技术发展的机会与挑战。
智能应用 影音