Physical AI产业化的安全缺口

前两个時代的机器人发展，安全框架的设计前提都是「确定性」。

第一代被锁在栅栏里执行固定动作；第二代走出栅栏，但沿著预先规划的路线移动。不论哪一代，系统在特定输入下会做什么，工程师都能事先预测，安全标准也是在这个前提下建立的。

第三波机器人的期待是「自主性」，能在非结构化环境中做判断、应对未曾见过的情境。但自主性本质上隐含「不确定性」，而这正是现行机器人安全框架从未真正处理过的问题。这个矛盾在近期的产业与学术会议上，被业界与研究机构众人独立点出，并从不同角度收敛到3个层次的问题。

第一个问题：停机不等于安全。最具体的观察，来自一家德系安全运动控制厂商。传统工业机器人的安全设计，缺省「静止等于安全」的前提，这个前提撑起 ISO 10218 近二十年。问题是，双足机器人停下来之后，危险并没有消失。一臺高一百七十厘米、重七十公斤的机器人，静止状态的重心控制比传统机器人复杂许多，更重要的是它可能倒下。该厂商的工程师指出，现行安全停止计算框架尚未涵盖双足机器人的倒落风险；若要补入倒落半径这个變量，整条公式需展开为7个變量的加总，涵盖倒落区域、人机趋近距离、制停距离、傳感器侦测范围，以及位置与状态的不确定性。

一家欧系车用MCU大厂在ICRA 2026的产业场次，从半导体驱动IC角度独立量化「安全停机（STO）」的5个根本局限：无法控制减速中的肢体运动、无法抵抗重力导致的倒落、无法跨关节协调出安全姿态、无法在故障时提供力矩回馈、无法处理局部失效的连锁反应。同一场次，一家德系协作机器人厂商明确表示功能安全认证已是部署前提而非事后程序。3个产业背景，同一个结论：停止，不是安全状态的终点，而是另一种危险的起点。

延伸报导专家讲堂：ICRA 2026观察：如果机器人开始刮你胡子了

第二个问题：测试基准的缺席。德国Fraunhofer IPA，欧洲大型应用研究机构之一，购入一臺市售机器人，用自行建立的66项评估框架跑完第三方测试。结果显示：手臂在中等负载下不到2分钟就过热关机；碰撞力测试结果超过500牛顿（N），明显超出ISO/TS 15066对多数接触场景的规范范围；蓝牙连线存在安全漏洞；机器人持续将數據传回厂商服務器，且未见于任何说明文件；电池续航不到2小时。这些问题有赖第三方主动测试才得以浮现；现行规范并未要求厂商揭露。展场上看到的，都是精心设计的成功展示。

第三个问题，也是最难处理的一层：VLA让安全评估框架的根本假设失效。传统安全框架依赖「风险可被量化」的假设，识别危害类型，估算发生机率、暴露频率与伤害程度四者相乘，得出危害评分。ADAS产业对这个框架的局限早有认识——感知模型即使按设计运行，仍可能在特定情境下输出危险决策，SOTIF（ISO/PAS 21448）正是为此而设计，专门处理「预期功能本身的不足」。但即使如此，ADAS 的操作场域相对受限。

延伸报导专家讲堂：VLA（Vision-Language-Action）机器人的新智能引擎

SOTIF的长尾问题至今仍未完全解决；VLA机器人的操作环境远比道路开放，连SOTIF也难以直接套用。因应这个困境，目前出现2条技术路径：建立不信任主控制器的独立安全监督层，以及在每个关节配置具备功能安全认证的MCU，让安全判断发生在关节层级。

两条路径底层逻辑一致——用确定性系统监督非确定性系统——但都尚无正式认证，各自在等标准追上来。

这不只是工程问题，也是法律问题。前美国消费者产品安全委员会主席Elliot Kaye在Humanoids Summit提出的问题很具体：当机器人在工厂伤害工人，责任在制造商、操作者，还是AI模型开发者？自驾车产业已提前示范安全事故如何反向改变监管态度。2023年Cruise自驾车在旧金山发生牵涉行人的交通意外，整个部门被迫停止运作，一次事故让整个产业的发展付出代价。机器人在工厂伤人，法律环境只会更复杂。

Kaye指出：赢得部署竞赛的，不是最好的展示，而是最快通过买方法务审查的那一家。

谁在定义标准，谁就在定义市场的进入条件。工业机器人时代已有前例：ISO 10218的主要起草机构，都是在这个市场有长期积累与部署数据的业者，后进者即便技术赶上，标准解释权仍有落差。机器人功能安全的对应标准目前尚未成形，但很可能在2028到2030年之间建立起来。今天各方关注的是谁能做出最好的机器人；几年后市场真正竞争的，可能是谁能最快证明它足够安全。