徐宏民
台灣大學信息工程学系教授
现任台灣大學信息工程学系教授,曾任富智捷(MobileDrive)技术长暨副总经理,推动ADAS及智能座舱系统产品进入全球车用市场。纽约哥伦比亚大学电机博士,专精于机器学习、电脑视觉、自驾车、机器人等领域。为讯连科技研发团队创始成员,慧景科技(thingnario)共同創始人,NVIDIA AI Lab計劃主持人;曾任IBM华生研究中心客座研究员、美国微软研究院客座研究员。习惯从学术及产业界的角度检验技术发展的机会,担任多家科技公司AI策略顾问。
Sim-to-Real:虚拟世界的局限
上一篇谈到机器人训练數據的4种来源:遥控示范、模拟器、影片、穿戴设备。其中模拟器看似最方便——數據生成边际成本接近零、场景参数(天候、情境等)可以随意调整。从MuJoCo、IsaacSim到Genesis,业界持续推进高逼真度物理引擎,NVIDIA也不断强调世界模型Cosmos在机器人训练上的优势。模拟器值得投入的理由不少。强化学习要靠大量试误,在实体机器人上几乎不可行;VLA基础模型在预训练阶段也需要大量多样场景,这两件事前几篇已谈过。上一篇也介绍过把模拟当成數據工厂、合成大量轨迹的「重模拟」路线。模拟器更是加速应用开发的标准工具:给定机器人结构、夹爪规格、场域布局,工程师可以先在虚拟环境中迭代演算法、验证任务规划,不必等实机。这件事在ADAS与自驾领域已是标准做法,移动机器人与工厂自动化也在跟进。不过模拟器训练出的策略搬到真实机器人时,常常表现不如预期;现象一般称为sim-to-realgap。接触力学是第一个盲点,上一篇已点出布料、电线、食材这类柔性物体是目前物理引擎的共同难题,但另有几个较少被提及的盲点。第一个是力回馈与精准度。夹爪抓起一个纸杯不压扁、拧开瓶盖的扭矩判断、插针孔的次毫米对位,这些动作在真实世界要靠触觉、扭力傳感与视觉循環一起完成;模拟器里的傳感器多半是理想模型,与真实傳感器的杂讯分布并不一致。消费端夹爪看似容忍度大,但一进到电子业的组装场域、医疗器材或食品加工,容差瞬间收敛到数十微米到几毫牛顿的区间;即使模拟精度与真实系统相当,残余的sim-to-real落差仍会直接反映在成功率。第二个是驱动端与系统端的落差。模拟器多半假设电机瞬时响应、通讯完美、状态完全可观测;真实系统却有电力电子的延迟、齿轮反向间隙、电池电压波动造成的扭矩不稳,再叠上封包遗失、时脉同步误差、以及傳感受限下的决策缺口。更关键的是,这些差距会随时间漂移:机构磨损、电池老化、现场網絡变动,模拟器即使再精细,也跟不上现场长期运转的累积。第三个是物件层级的风险。前一篇谈VLA安全时已详述情境危险性:同样一个抓取动作,物件是刀还是汤匙、是热饮还是冷饮,风险天差地别;这层语义层的风险,虚拟环境在几何与动力学层面上不会主动标注,必须靠真实场域的數據补齐。还有一层更难处理的问题——物件状态的变动,而这些变动往往不在物理引擎的描述语言里。微波炉是不是正在被占用、抹布是不是脏的、平底锅刚用过还没洗、油是不是已经酸败。自然语言指令通常不会把这些条件写明,但实际执行时缺一不可。我们近期的研究就把这类「动态可操作性」(dynamic affordance)纳入评估,要求代理人在动作前先判断物件当下是否可用,而非当成固定几何体;测试结果显示,这个额外的判断确实能改善代理人在新场景下的表现。这类问题暴露一个本质限制:物理引擎模拟的是「物件怎么动」,不是「物件现在可不可以用」。前者是物理,后者是常识。虚拟世界可以把桌面渲染到以假乱真,但「桌面脏污还是刚被擦拭过」这件事,模拟器不会主动生成,也不容易标注。真实场域的不确定性,很大比例是这类状态变动累积而来。传统机器学习对训练數據的基本要求,在VLM/LLM新典范之下并没有放宽,大致有3个面向。第一是视觉与场景的多样性:模型要在不同光源、视角、杂物分布、场景配置下都能稳定运作,视觉长尾覆盖不足,泛化能力就有限。第二是失败模式的多样性,这和视觉多样性是两件事;机器人真正要学的不是「做对一次」,而是在各种失败边缘能不能察觉并调整,这类分布只能刻意取得,不会自然出现。第三是领域贴合度:要让模型学会某个场域的操作边界,數據必须来自该场域,一个合格的物流仓、医院药局、餐饮厨房,都有自己独特的动作分布与例外情境。回到模拟器,这三件事它能补的程度不一。视觉多样性已有相当进展,特别是场景合成与domain randomization,但接触密集场景仍有差距。失败模式合成则是模拟器较具独特性的角色:不安全操作、碰撞、摔落、错抓这类情境,在真实场景上难以大量反复上演,模拟器可以放心重现危险操作、组合极端条件,是「安全地大量失败」的少数可行路径之一。至于领域贴合度,模拟器只能部分逼近,难以取代真实场域數據;这也是其他训练數據必要的原因。机器人产业真正需要的,或许不是更逼真的模拟器,而是让部署现场本身成为持续训练的數據来源。实体机器在真实场域运作时,能察觉自身错误、退回安全状态,并把偏差信號回馈到模型迭代。这个思路在數字世界刚被走通。近期的代理型AI(Agentic AI)推理并非总是准确,但搭配验证(verification)、错误侦测与再修正机制,系统在迭代中逐步收敛到可用水准。实体AI(Physical AI)有机会走上同一条路:用模拟器建立预训练的底层,用真实场域的错误信號回馈微调,把部署规模转化为模型进化的燃料。这里的「验证」不只是軟件验证,还包括独立的安全监控层;前一篇谈VLA安全时提到的执行前弃权、执行中监控,正是这个回路的实体版本。模拟器仍是地基,但模型真正变强的地方,会在实体部署之上。机器人部署场域的营运數據,未来几年会逐步变成比硬件规格更关键的资产;谁能搜集、清洗、回馈这些數據进模型,谁就能把「单次出货」变成「持续累积的优势」。Sim-to-Real的问题,未必能靠「把模拟做得无比接近真实」彻底解决,这条路的边际报酬看来正在递减。比较务实的方向,或许是接受虚拟与现实之间确实存在的差异,透过场域數據微调、验证与修正迭代逐步提高成功率。如同代理型AI在數字世界走过的路,机器人也可能借此在实体世界站稳脚步。
2026-05-06
VLA机器人的「安全」该如何设计?
服务型与移动型机器人在商业场域的部署密度,过去3年明显加速,巡检、仓储、餐饮、商场、医院物流、户外递送逐一导入;这些机器人驱动核心仍以预先定义的规则与固定流程为主。紧接而来的技术主轴,是 VLA(Vision-Language-Action)架构:以 LLM/VLM 为大脑,帮助机器人理解自然语言指令、在更有弹性的情境下做决策,展现传统机器人没有的适应力与自主性。但更多能力、弹性,也隐含更多风险。「安全」这件事被相对低估了。新一代VLA驱动机器人的安全框架,不是把工业机器人那套「围栏加急停」放大就能沿用。传统机器人的安全是工程问题——傳感器划出实体禁区、动作在认证阶段锁定。VLA 的弹性打破既有前提,使过去二十年的安全工程资产难以直接套用。指令本身成为新的误解与攻击面,至少4类风险是传统安全框架没处理过的。第一类是指令层的攻击面。LLM 本身的越狱(jailbreak)与prompt injection攻击,在接上动作决策点之后会整套传染到实体世界;语言领域的「胡言乱语」,到VLA场景就成为危险动作。第二类是语义对齐不等于动作对齐(linguistic-action alignment gap);预训练的安全对齐主要发生在语言输出层,动作空间没有经过同等强度的对齐;同一个危险指令,语言层可能拒绝回应,动作层却不受这道防线约束。第三类是物件安全盲点。当指令是「把桌上的东西收走」,模型不会自动区分刀具、药瓶、热饮与一般杂物。第四类是自损与环境碰撞。忽视自身硬件限制与场域结构,产生鲁莽动作与反复碰撞,既损坏机器人也威胁周边人员。更根本的限制是开放世界的长尾。训练數據不可能涵盖所有场景,模型对「角落情境」(corner cases)的行为难以预测。这个问题在自驾车已反复验证,15年里程累积仍不足以压平长尾;而服务型机器人的场景空间只会更发散,道路有车道线可循,商场走道、医院走廊、仓储区交叉口却没有同等清晰的边界。传统安全方案多仰赖控制障碍函数(Control Barrier Function;CBF)这类实体滤波器,如同为机器人设下一层「电子围篱」,在数学上保证其不进入物理禁区。这套方法在低自由度系统有效,但面对高自由度机械臂、或在复杂场域运作的移动机器人时,状态空间会指数成长。更根本的是,它也处理不了「指令本身就危险」这类不在实体空间发生的风险。实体滤波器只看机器人自身的状态空间,不问它正在互动的物件是什么。CBF可以保证机械臂的关节角度不超出安全范围、末端执行器不撞到墙,但它不知道夹爪握著的是水瓶还是药瓶。填补这个空缺的新兴方向,是把物件的情境危险性纳入规划。已经有研究团队让模型在生成动作序列时,把「这个瓶子里是药」、「这个容器里是热饮」、「这把工具是尖锐的」一并纳入考量,在餐饮、医院、仓储等场景特别关键。近年学界也从2个方向补上指令层的缺口。一个方向是执行前的判断:当机器人侦测到指令超出自身能力,或在语义上有潜在危害时,应主动弃权(abstain)而非硬做。另一个方向是执行中的监控:在模仿学习(Imitation Learning)策略运作时,用另一个轻量模型實時评估策略输出是否异常,一旦偏离就触发人工接管或安全模式。我们最近的两个研究(VLN-NF与AED)对应的就是这两件事:执行前的「要不要做」,与执行中的「做错了要怎么尽早发现」。把实体滤波器与语义层的行为守护者并置,是目前能实际部署的务实组合。真正决定 VLA 机器人能否走出demo、进入大规模部署的,其实不是「永远不出错」,而是「出错之后能救回来」。这个观念在安全工程里有个说法叫Safety II:重点从「避免失效」转向「维持韧性」。自驾车产业花了多年才建立「最小风险操作」(minimal risk maneuver)的观念:当系统无法继续行驶时,车辆要能自主进入安全停等状态——例如平顺减速、打方向灯、靠边停车,而不是直接把方向盘抛回给驾驶。这件事在规范上看似直观,在工程上却极为困难:需要另一套独立于主自驾系统的冗余去判断「何时我已经不该继续」,并在有限时间内完成安全退场。服务型机器人可能会有类似路径,但场景更复杂。工厂可以急停,商业场域不行——餐厅送餐机器人在用餐高峰停在走道中央,挡住的是出餐动线与服务生通道;医院物流机器人若在走廊中央断电,挡住的可能是紧急推床;仓储AMR若在交叉口卡住,后面可能有一整列后续车辆与作业人员。这些场景都没有「路肩」这种已被定义好的安全区可以退守,恢复行为本身就必须是一个具备情境判断的决策,而不是一个缺省动作。传统的恢复机制是写死的规则:抓失败就重试、路径不通就后退。但VLA的动作空间远比工业机器人复杂,规则式恢复很快碰到上限。新一代的研究方向,例如牛津大学(Oxford)团队2026年提出的CycleVLA,让机器人具备「子任务回溯与重新采样」的能力:侦测到异常状态时,退回上一个合理子任务重新生成动作序列,而不是在当前已经失败的轨迹上一路错下去。这条路线把恢复从「固定流程」变成「动态决策」。技术之外,另一个正在快速逼近的议题是标准与认证。工业机器人(ISO 10218于2025年大改版)、仓储移动机器人(ISO 3691-4、北美ANSI/RIA R15.08)、服务机器人(UL 3300于2025年获OSHA认可)3条轨道各自在不同成熟度;EU AI Act与EU Machinery Regulation 2023/1230(2027年1月生效)则已把自主机器人列为高风险系统,要求风险管理、可解释性与實時监督界面。但VLA这类具备语言理解与自主决策能力的系统,目前没有任何一套标准完整覆盖。设计上除了优化能力,也必须对齐安全与合规,这已是能否回应RFQ/RFI的基本门槛。VLA机器人的竞争力,未来几年不会在于谁的动作最快、谁的模型最大,而在于谁的系统在面对未知环境与突发错误时,能同时展现出多层安全能力:实体滤波器守住空间边界,物件安全约束判断互动对象的情境危险性,语义守护者决定要不要做,韧性恢复决定做坏了还能否回到正轨。这些AI层的能力都运行在硬件层的传统安全primitives(独立MCU、扭矩限制、机械e-stop)之上;硬件地基仍然必要,但新一代的安全能力都落在AI层。四层缺一不可,而每一层都还有明显的技术推进空间。这也说明安全不是机器人上市前的选配功能,而是整个系统设计的地基。对准备切入这个产业的团队而言,智能安全防护做得多深、多早,很可能决定产品能走多远。
2026-04-28
机器人训练數據从哪里来?
太平洋两岸的机器人新创与顶尖实验室,这一年来在一件事上达成共识:模型架构不再是唯一焦点,數據成为竞争的核心资源。不论技术路线如何演变,多数团队最终都会遇到同一个瓶颈——机器人移動「训练數據」的规模严重不足。大语言模型的成功,建立在数十萬億个从網絡爬取的文字數據上;机器人需要的是机器人在真实物理环境中的动作序列、傳感器数值与任务标注。研究估算,目前主流机器人训练數據集的规模,比语言模型少了3个数量级以上。2025年底,Physical Intelligence的π₀在少量示范后的自主执行中,于数分钟内完成叠衣任务;NVIDIA 的GR00T N1.6在同一个模型框架下可以同时操控7种不同机械手臂。这类进展的背后,架构设计看似重要,但數據规模才是关键。數據缺口,是机器人基础模型能否真正大规模实际部署的天花板。面对这个落差,学术与产业界正从4个方向同时突破數據障碍:遥控示范、模拟器、網絡影片、穿戴设备。4条路线各具特色,可以互相配搭。遥控示范(teleoperation)是目前高品质數據的主要来源。操作人员透过 VR 头盔或主从控制臂等線上界面操控机器人,系统同步记录动作序列与傳感器数据:數據真实,实体互动完整,动作标注精确。openVLA的训练基础就是采用97万笔这类示范數據。近来也出现更轻量的工具,史丹福大学(Stanford) 团队开发的 UMI(Universal Manipulation Interface)以手持夹爪装置,内建鱼眼镜头与惯性傳感器,操作人员在任意场景示范即可录制,大幅降低收集门槛。问题在于规模:每笔數據仍需人力投入,以中国各地的机器人训练中心为例,工作人员每天重复数百次开关微波炉、叠衣服,扩张速度终究受制于人力极限。模拟器(simulator)提供的是另一个极端:近乎无限的數據量、几乎零边际成本、可精确控制场景参数。从商业平臺到MuJoCo、Genesis等开源工具,各样投入都在朝高逼真物理模拟推进。但核心难题不在画面是否逼真,而在接触力学(contact dynamics):两物体碰触瞬间的摩擦力、形变与反作用力,即使模型极度精细,转移到真实机器人后仍常出现误差。布料、电线、食材等柔性物体尤为困难,传统刚体模拟难以精确处理。面对sim-to-real gap,目前尝试2条路线:一是「域随机化」(domain randomization),刻意扰动光影、质感、摩擦系数,让模型学会不依赖特定环境特征;二是 NVIDIA 的Cosmos世界基础模型,以大量真实影像学习物理直觉,让神经網絡本身充当更逼真的模拟器。2条路都有进展,但让模拟器成为可靠的免费數據工厂,仍有一段距离。網絡影片是规模最大、却最难直接使用的来源。YouTube上海量人类执行日常任务的影像,蕴含丰富的物件互动与动作语义,但影片里看不到力道、关节角度与夹爪状态,也没有任何动作标注,且人手与机器人末端执行器存在根本的形态差异(embodiment gap)。Meta的Ego4D等大规模第一视角人类行为數據集,是目前这个方向最具代表性的尝试。跨具身学习(cross-embodiment learning)是跨越这道障碍的主要技术路线:透过汇集来自不同机器人平臺与人类示范的數據联合训练,让模型学到不依赖特定硬件形态的通用动作表示;我们近期的研究也证实,这是一个有效的策略。具身智能(Physical Intelligence)最新研究进一步显示:当跨具身预训练规模足够大,「人类影片迁移到机器人动作」的能力会自然出现,不需要复杂的动作转换层,意味著網絡影片的可用性比原本预期的更高。穿戴设备(wearable devices)是最近快速发展的路线。轻量外骨骼或动作捕捉装置让操作人员在自然场景中活动,同步记录全身动作与环境互动,再转换为机器人可学习的格式。NuExo、HumanoidExo已能在户外场景收集全上肢动作數據,场景多样,數據自然,操作者的活动自由度也远高于固定工作站的遥控示范。难点在于「动作转换」(motion retargeting):人体关节结构与机器人机械结构不完全对应,需要精密几何映射,且转换品质因平臺而异。综合目前领先团队的做法,目前正在收敛出一个「两段式」數據架构,逻辑上与LLM的预训练/微调高度相似。第一阶段是大规模、多元的预训练,以網絡影片、合成模拟數據为基础,让模型建立视觉语义与通用动作直觉;第二阶段是少量、高品质的微调,以遥控示范或穿戴设备录下的真实机器人數據,将能力实际部署到特定任务与平臺。各家在这个數據策略的分歧,集中在对模拟器的信任程度。NVIDIA的GR00T N1是「重模拟」策略的代表:训练數據呈3层金字塔,底层是網絡影片与人类动作影像,中层是Isaac平臺与Cosmos模型生成的合成轨迹,顶层才是真实遥控示范數據。NVIDIA曾在11小时内生成78万条合成轨迹,相当于6,500小时人工示范;加入合成數據后,模型表现比纯真实數據提升40%,是其力推模拟路线的具体依据。相对地,许多新创——尤其是中国团队——对sim-to-real持保留态度。在精细操作上,模拟器的接触力学与真实世界仍有落差,与其花工程资源桥接误差,不如直接扩大真实數據的收集规模。具身智能的 π₀以横跨7种机器人平臺、68项任务、超过1万小时的遥控示范數據进行跨具身预训练,针对新任务微调仅需1至20小时。Generalist AI的GEN-0则更为彻底,完全不用模拟,以27万小时的纯真机互动數據训练,每周持续新增逾万小时。这几条路线背后有一个共同的结构:遥控示范与穿戴设备录下的數據,目前主要扮演「微调材料」而非「训练主体」的角色,提供的是最后那10%让模型真正能用的能力,而非语义理解的来源。这个分工,正在促使各条路线重新定位自己的核心竞争力:模拟器拼的是物理引擎真实度,網絡影片拼的是动作标注技术,遥控示范拼的是针对特定任务的示范品质。投资机构(如Merrill Lynch)预估2025年全球人形机器人出货量约1.8万臺,是2024年的7倍;协作型机械手臂、自主移动机器人(AMR)等更成熟的平臺部署规模更大,也都在加速整合新一代AI模型。电动车厂与第三方物流业者已在工厂与物流中心商业运转。數據积累与部署量之间的正向循环已开始运作:部署量愈大,场域數據愈多;數據愈多,模型泛化愈强;模型愈强,部署门槛愈低。真正的竞争优势,在于谁能以最符合成本的方式取得有效數據、在实际场域中持续迭代,进而建立起真正的數據护城河(moat)。
2026-04-24
智能机器人如何学动作技能?
煎蛋翻面不到2秒,但每一步都是连续的傳感判断与力道决策;涂果酱、摆餐盘同样如此。这类「低端技能」(atomic skill)的难点不在于执行固定轨迹,而在于复杂环境正确执行。前一篇讨论的VLA架构解决的是(高端)任务规划,本文要回答的是更深入的问题:机器人怎么把每一个(低端)基本动作做好?传统工厂机器人的动作,是不同性质的事。抓取、插件、焊接、锁螺丝,关键字是「重复性」与「受控条件」:同一款零件在同一个位置,同样的夹爪、同样的轨迹、同样的速度,不需要处理复杂变动环境。这类动作可以用固定程序精确执行,但容错空间极低,环境稍有偏差就失效。过去教导机器手臂的主流方式,叫「示教法」(teach-and-playback):操作员透过示教器(teach pendant)将手臂逐点移至目标位置、记录各路径点的关节角度,再让机器人依序重放。环境固定的场景至今仍适用,但示教法本身没有傳感(甚至推理)能力——它只知道「下一个路径点在哪里」,换了零件或场景就要重新示教,遇到变动情境也无从判断。从「执行固定轨迹」到「应对多变场景」,需要从根本上换一种动作学习逻辑。目前学界与业界收敛出2条主轴:强化学习(Reinforcement Learning;RL)与模仿学习(Imitation Learning;IL)。强化学习(RL)的基本逻辑是「从尝试中学习」。机器人不看示范,自行在环境中试探;每次移動之后,根据结果的好坏(「奖励信号」)调整策略,慢慢摸索出完成任务的方法。理论上,只要定义好成功标准(比如「蛋翻面后完整不破」),机器人甚至可能摸索出人类没想到的解法。但是,RL在实体机器人上有一个根本缺陷:它需要大量的试误次数才能收敛,而每一次试误在真实机器人上都消耗时间,且有损坏设备的风险。在模拟器里可以让机器人不眠不休地失败几百万次;搬到真实机器人上,同样的学习量可能需要几年。这就是为什么 RL 在机器人领域目前主要的定位,是在模拟环境中预训练,而非从头在实体上学习。模仿学习(IL)走的是另一条路:让机器人观察人类示范,从中学习,而非从零试误。在理解模仿学习之前,有一个基础概念值得先厘清:「策略」(policy)。策略是机器人的决策核心:给定当下的傳感状态(摄影机画面、关节角度、触觉数值),输出下一步应该执行的动作。训练机器人动作的本质,就是在训练一个好的策略。最直觉的模仿学习方式叫行为复制(behavioral cloning):把人类示范的「状态与对应动作」当作训练數據,用监督式学习训练策略。简单,但有一个根本弱点:示范都是「做对了」的过程,机器人从未学过「偏掉了该怎么办」。执行时只要出现细微偏差,后续每一步的判断都可能进一步出错,误差层层累积。任务愈长、步骤越多,这个问题愈致命。目前解决这个问题最具代表性的方向是「扩散策略」(Diffusion Policy)。它的技术来自于这几年大家熟悉的(影像)生成式 AI,背后用的就是扩散模型:从随机杂讯出发,经过多轮降噪处理,逐渐收敛出高品质影像。研究人员把同样的架构搬进机器人控制,把输出从像素值换成连续的动作序列。传统行为复制倾向输出「平均解」,遇到同一任务有多种合理做法时往往哪边都不对。扩散策略换了角度:不输出单一动作,而是学习「给定当下状态,合理动作的机率分布」,再从这个分布中采样。降噪过程同时生成接下来若干步的完整动作序列,让机器人不必每一步重新决策,动作因此更稳定、流畅。在相对少量的示范數據条件下,Diffusion Policy就能让机器手臂完成需要精细力道控制的操作任务,是目前數據效率与效果兼顾最好的方法之一。更新的策略学习方向是「流匹配」(Flow Matching)。概念更直观:与其从杂讯出发反复降噪,不如直接学习从杂讯到目标动作的最短路径,推论步骤因此大幅减少,速度更快、训练也更稳定。目前已有机器人基础模型采用此架构,在学界与业界逐渐受到重视。2条路线各有天花板。RL的试误成本在实体机器人上难以接受,目前主要在模拟环境中预训练,而非直接在实体上学习。IL的效果上限受制于示范數據的品质,示范者没做过的,机器人就不会。实务上两者通常搭配使用:模仿学习建立初始策略,强化学习在模拟环境中补足长尾情境。但不论哪条路,核心限制都指向同一件事:训练數據。这也是太平洋两岸的领先机器人研究团队们已有的共识。示范數據从哪来、如何在可接受的成本下大规模取得,已经成为这场竞赛真正的核心问题——这也是下一篇要探讨的主题。
2026-04-15
VLA(Vision-Language-Action)机器人的新智能引擎
大型语言模型(LLM)问答能力超强,让人自然产生一个直觉:把LLM接上机器人,使用语言下指令,机器人是不是就有智能移動力?直觉没错,但中间有几个结构性的缺口,填补这些缺口的解法,就是目前崛起的机器人AI新引擎:VLA(Vision-Language-Action)模型。LLM面对机器人控制有2道缺口。第一,输出格式不对:语言模型产生的是文字,不是机器手臂可以执行的动作指令。Google 2022年的SayCan研究把这个问题称为grounding gap:一个模型可以生成「拿起桌上的水瓶,放到椅子旁边」这样的规划,但这串文字如何转换成3D空间的关节运动矢量?语言叙事与实际执行之间,需要一个明确的桥接机制。第二,LLM的动作理解能力本身有结构性的弱点。史丹佛大学(Stanford)团队在NeurIPS 2024的研究中把机器人决策能力拆成4个分项分别评测,发现LLM在「连续动作规划」这项表现最弱——而这正好是机器人控制最不能缺少的能力。这不是prompt写得不好的问题,而是语言模型在训练目标上本来就不是为了预测实体世界的状态变化而设计的。VLA的架构设计,就是为了跨越这两道缺口。Google DeepMind 2023年发表的RT-2,是目前被引用最多的VLA系统之一。它的思路是:把视觉语言大模型(VLM)作为感知与理解的主干,再接上一个action head:专门负责把模型的决策输出转换成连续的动作矢量。这个架构让系统能够同时处理视觉画面与语言指令,输出的不是文字,而是实际的关节角度与末端执行器的移动指令。更重要的是,VLM在網絡规模的视觉与语言數據上预训练所获得的泛化能力(常识),在一定程度上能迁移到机器人操作的新场景上,这是过去单一任务单一模型的架构做不到的(多工能力)。开源生态也已跟上。openVLA展示同一个模型框架可以控制多种不同机械手臂;Physical Intelligence的π₀则用超过1万小时的跨平臺遥控示范數據预训练,可以让新任务的微调降到1至20小时。大语言模型「泛化」的概念开始有了工程上的实证。然而,把一个大型VLM直接接上action head、整合成单一模型的做法,有一个结构性的矛盾:VLM跑得慢(加上推理工作速度会更慢),精细控制需要跑得快。两者要处理的问题性质根本不同、运作速度也不在同一个层次。知道怎么做,和有能力把它做好,是两件性质不同的事。大脑可以清楚规划「拿起零件、对准位置、轻放入槽」,但每个步骤的实际执行,依靠的是另一套机制——精准的肌肉控制与實時的力道感知。机器人系统面对同样的分工问题,这推动学界与业界共同往分层架构的方向走:把「知道怎么做」与「有技能去完成」拆成两个系统。System 2(高端)是VLM,负责语意层次的理解与任务规划;System 1(低端)是轻量化的动作生成模型,负责把规划转换成连续、精确的关节动作,两者运作频率完全不同。NVIDIA于2024年发布的GR00T N1是目前最具代表性的公开实作——2个模塊在模拟平臺上联合训练,让System 1能以120Hz的频率控制机器人,也就是每秒更新120次动作,这是确保精细操作稳定的基本要求。但即便架构方向渐清,3个瓶颈依然尚待突破。數據是最根本的限制。语言模型的训练數據来自網絡,规模以萬億计;机器人的示范數據需要人工遥控示范逐笔收集,目前最大规模的數據集也只有几万小时等级,差距悬殊。模拟器能协助,但sim-to-real gap持续存在——模拟器在接触力、材质摩擦上的真实度仍有落差,在模拟环境训练出的策略,移到真实场景常出现非预期失误。此外,真实场域中各种难以预料的边缘情境也是挑战之一。灵巧操作(dexterous manipulation)不只是模型问题。毫米级精度的组装、软性材料的抓取,需要實時触觉回馈,而触觉傳感器的成本与可靠度仍是工程上未解的题目。这个缺口靠扩大數據规模无法完全解决,傳感器与机械结构的进化同样必要。长时序任务(long-horizon planning)则是VLA目前最难回避的限制。各样任务往往需要多个步骤依序完成,每个步骤的执行结果都影响下一步判断,误差一旦累积,之后很难修正。我们近期的研究也发现,现有模型在规划时往往专注在指令执行,却未评估目标物件在当下是否可被操作(比如微波炉脏了)——环境一旦出现未预期的状态变化,整个任务就在执行中途失效。分层架构让System 2承担规划责任,方向正确;但VLM的长时序规划能力能否支撑真实情境任务,目前还没找到系统性的方案。VLA确立语言、视觉、动作整合的架构方向,分层设计进一步回答「如何同时跑得快又想得深」这个问题。灵巧操作、长时序规划、训练數據这三道缺口尚待突破,但过去2年的技术演进速度已经说明,这些问题被解决只是时间问题。真正值得追问的下一个问题是:VLA让机器人有高端思考能力之后,机器人怎么把每一个基本动作学好?这才是整个系统能否真正部署的关键基础。
2026-04-14
机器人的ChatGPT时刻?
大型语言模型在近年展现出3个令人惊讶的能力:泛化(generalization),在从未见过的问题上给出合理答案;多任务(multitasking),同一个模型写程序、翻译、分析财报、判读法律文件;推理(reasoning),把复杂问题拆解成步骤,逐一推导出解答。正是这三个能力,让大型语言模型在數字世界掀起典范转移。下一个问题,是这些能力能否走进实体世界—不只在屏幕上思考,而是在真实空间中感知、判断、移動。这正是「具身智能」(EmbodiedAI)试图回答的问题:让模型不只是推理引擎,而是成为真实环境中的移動者。需求比想像中更迫切。谈机器人,往往让人联想到科幻场景或工厂自动化。但推动这一波发展的力量,其实更接近人口结构的现实。臺湾65岁以上人口占比已超过17%,日本早已超过29%,德国超过22%;制造业、物流业、长照产业的缺工问题,在多数已开发国家不是短期现象,而是长达数十年的结构性挑战。另一个驱动力是安全:高温、高压、有毒化学品、重复性导致的职业伤害—把人从这些场景中移出,本身就有足够的商业理由,不需要等到机器人的成本降到与人力相当。这一波机器人讨论之所以与过去不同,有一个常被忽略的前提:硬件已经准备好了。傳感器(摄影机、LiDAR、触觉傳感器)的成本在过去十年大幅下降,马达与减速机的精度持续提升,机械结构的制造良率也趋于成熟。部分得益于电动车产业的规模效应—马达、减速机、傳感器的供应链随EV量产大幅成熟,机器人硬件直接受惠。机器人整体硬件成本在2023至2024年间年降幅约达4成,下降曲线清晰可见,这与早期工业电脑、早期智能手機的轨迹高度相似。硬件不再是关键瓶颈;问题移到了「大脑」、「眼睛」与「四肢」—机器人要如何真正看懂环境、做出判断、精准完成任务?最直觉的答案是把云端LLM接进机器人。但物理世界的时间尺度与數字世界截然不同:人类在键盘上等待一秒的回应是可接受的,机器人在伸手抓取物件时若延迟半秒,轻则任务失败,重则碰撞损毁。云端推论的網絡延迟,在这个场景中是结构性的障碍,不是优化问题。自驾车产业已解决这个问题:感知与實時控制在车载边缘运算上执行,高端路径规划与地图更新则视需要呼叫云端。今天的车载SoC已有足够的算力支撑實時的视觉識別与控制决策;机器人的边缘硬件正在走同一条路。实体算力的门槛在过去几年已大幅降低,让「大脑在本地执行」从成本考量来看也愈来愈可行。技术上,这一波机器人能力的突破,核心在于VLA(Vision-Language-Action)模型架构的确立。VLA把三条原本独立的信號—视觉感知、语言指令理解、动作输出—整合进同一个神经網絡,让大语言模型的推理能力得以迁移到机器人的动作决策上。过去的机器人控制是一任务一模型,抓取、搬运、组装各有专属系统,换了场景或换了物件就得重新训练,缺乏弹性且成本高昂。VLA打破此一架构:操作者可以用自然语言描述任务,模型自主分解成动作序列并执行,即便是训练时未见过的物件或场景,也有一定的应对能力。开源模型中,openVLA在同一个模型架构下跨平臺操控多种机械手臂,展示通用操作策略的可行性;Physical Intelligence的π₀以超过1万小时的跨平臺遥控操作數據预训练,针对新任务微调只需1至20小时。「一个模型跨场景泛化」这个问题,在过去一年内开始有了系统性的肯定答案。讨论机器人时,往往局限在机械手臂的操作能力上。但在真实工作场景中,「走到目标地点」与「对它做什么」是同等重要、缺一不可的能力。这个组合在学术界称为mobile manipulation——同时具备移动底盘与操作手臂的机器人平臺,才能提供更多弹性与能力。想像一个仓储场景:机器人能自主移动到正确的货架,識別目标物件的位置,伸手抓取,再移动到指定放置点。每一个步骤都需要精确的空间理解与动作协调。固定式机械手臂只能解决「操作」这半题;移动平臺加上操作手臂,才是开启更多可能性。要让机器人在非受控环境中自主移动,导航(navigation)是必须解决的基础能力,而导航的前提是建图(mapping)—机器人必须先建立对所在空间的三维理解,才能规划路径、避开障碍。早期的机器人导航依赖预先设定的固定路线或QRcode地标,弹性极低。SLAM(Simultaneous Localization and Mapping,實時定位与地图建构)技术让机器人能在移动中同步建立环境地图并定位自身,是目前主流的导航基础。更近期的发展方向是语义地图:不只知道「那里有一个障碍物」,而是理解「那是一张椅子、那是工人、那是临时堆放的栈板」,进而做出更合理的路径判断。这个方向与VLA的语言理解能力高度相辅:机器人不只在几何空间中移动,而是在语义空间中理解环境。商业部署的信號已出现。电动车厂的整车组装线与零组件仓储,是目前规模最大的机器人商业场域;欧美汽车厂与第三方物流业者也已在工厂与配送中心导入机器人,更有弹性、拟人化的执行零件搬运,商业场域的试验已陆续展开。多家国际投资银行的分析指向同一个方向:实体(Physical AI)所面对的,是整个制造业、物流业、服务业工作流程的重新配置,而非单一产品市场的扩张。诚实评估目前的限制,是避免高估或低估这波趋势的必要功课。第一个问题是电池:目前机器人的续航约2至4小时,工厂班次通常8至12小时,补充电力需要停机,这在连续生产场景中是结构性缺口。电池能量密度的提升是化学问题,不是軟件问题,很难靠演算法突破。第二个问题是长尾场景的泛化:在受控环境下,机器人已能可靠完成标准任务,但工厂地板的一摊水、歪掉的零件箱、训练集未见过的新产品,仍常造成失误。工业场景的容错空间远低于实验室,这个缺口目前尚未被系统性地填补。第三个问题是灵巧操作(dexterous manipulation):人类手部的精度与柔顺性,在精密组装、电子制程等场景中,仍远超现有机械手的能力。从GPT-1到ChatGPT(2022年底,版本为GPT-3.5),语言模型花了四年半。机器人领域的「GPT-1时刻」大约发生在2022至2023年前后,VLA概念开始被系统性验证;我们现在大约处于GPT-2.x时刻。这里比的是能力发展的轨迹,而非模型规模。机器人还多了一道语言模型不需要面对的约束:再强的模型,最终仍须压缩到本地端执行,受算力、功耗、延迟的硬性限制,这是VLA需要额外跨越的障碍,语言模型当年并不需要面对。不过,GPT-2.x并不意味著要等。从结构固定的重复性作业,到桌面操作的弹性取放,到自主移动与场域导航,再到多工协作、人机共同执行任务,乃至需要一定推理能力的复杂流程辅助;不同成熟度的技术,对应不同层次的导入机会,不必等到全面成熟才能创造价值。这个阶段,对观望者而言似乎还早,但对决定在哪个节点进场的人而言,这可能是领先班车的最后一个上车点了!
2026-04-09
推论经济(Inference Economics)
Token价格跌了99%,这件事过去两年已成为AI产业大趋势。但有一个数字却大幅上升:「推论(inference)」算力需求。所谓推论,是模型训练完成后每次被呼叫服务客户产出回应的运算。超大规模云端业者与科技公司AI基础建设资本支出已达数千亿美元等级,其中推论占企业AI预算的比重已达85%,仍在攀升。Stanford AI Index 2025记录,达到GPT-3.5等级效能的成本2年内下降280倍(透过各种TCO系统优化策略),但全球GPU出货量与數據中心功率密度要求却同步上升。2022~2023年,AI基础建设的资本配置几乎全集中在训练,整个产业的讨论聚焦于训练算力的持续扩张。但2025年之后,这个比例已大幅翻转—在许多云端平臺的实际负载中,推论已超过训练;推论芯片市场的年销售额,预计未来5至8年成长4至6倍。推论算力的成长需求,由3个力量相乘决定,不是累加:(1)token能力持续提升、价格快速下降,兴起大量、多样的知识领域新颖应用情境;(2)推理(Reasoning)模型让每次查询的算力消耗乘以10至50倍;以及(3)第三个力量,也是最常被忽略的一个。第三个力量是agent的呼叫结构。关键不在agent能做什么,而在怎么做。单一agent完成一项任务(例如AI coding),背后并非一次LLM呼叫,而是一整个循环:规划、工具呼叫、观察结果、反思、修正,再执行,通常产生10至20次LLM呼叫;多agent系统并行运作,呼叫量再乘一个数量级。除了前文提过的AI coding,Salesforce Agentforce在2025年第4季的年度经常性营收已达8亿美元、年增169%;企业端agent部署不是未来式,是现在式,而且每个部署都在以乘数方式放大推论需求。3个力量合在一起,构成一个对市场规模的估算架构:情境数量×每个情境的推理深度×每个agent任务的呼叫次数。三者相乘,不是相加。需求乘数的另一面,是推论硬件本身的结构性改变。Google DeepMind研究人员Xiaoyu Ma与Turing Award得主David Patterson于2026年1月在IEEE发表论文"Challenges and Research Directions for Large Language Model Inference Hardware"指出,目前没有一款现有主流GPU架构主要为推论最佳化,业界仍在用训练架构执行推论工作。推论的Decode阶段(逐一吐出输出token的过程)是memory-bound,不是compute-bound。然而过去十年,硬件发展的重心一直放在运算,而非存儲器:GPU的FLOPS成长80倍,存儲器帶寬只成长17倍,这个落差还在扩大;HBM系统成本持续上升。论文因此提出4个研究方向——高帶寬Flash存儲器、近存儲器运算、3D存儲器逻辑堆叠、低延迟互连——尚未有厂商完整实现。推论需求的放大,加上硬件规格尚未收敛,正在重塑芯片采购的逻辑。OpenAI 2024年在37亿美元营收下亏损近50亿美元,推论成本正是这个结构性落差的主要因素之一;大型CSP业者们的实际回应不是等GPU厂商更新架构,而是自行设计推论专用ASIC(TPU或NPU);推论负载占比愈高,自建ASIC的TCO优势就愈明显。训练丛集的采购逻辑是「跟上GPU最新時代」;推论丛集的采购逻辑正在转变为「针对自己的模型特性与流量结构定制化」。这是两套不同的供应链需求,会在不同位置开启不同的机会。Patterson论文勾勒的研究方向,直接对应到推论丛集TCO优化的4个维度:运算端以推论专用ASIC取代GPU;通讯端以低延迟互连取代训练导向的高帶寬拓朴;储存端从HBM走向高帶寬Flash与DRAM的混合存儲器阶层;能源端把每个token的功耗列为系统设计的第一优先。4个维度都还在定义,意味著供应链格局尚未固化。「推论经济」的崛起,为GPU服務器供应链日益固化、毛利空间收窄的臺湾业者,开启新的机会。推论ASIC的设计与制造、先进封装、存儲器异质整合,恰好落在臺湾IC设计生态系与晶圆代工、先进封装能力的交叉点上。这四个维度的硬件规格,目前仍在被定义当中,也是探寻新机会的好时机。
2026-03-18
AI改写的不只是效率,也是毛利结构
臺湾信息电子业对毛利压力并不陌生。品牌客户每年的成本下压、产品周期缩短、规格要求提升,是这个产业几十年来的基本节奏。过去应对的方式是制程优化、规模经济、供应链整合。AI的出现不是这条路的延伸,而是改变竞争的计算方式。哈佛商学院教授Oberholzer-Gee的Value Stick框架把竞争优势拆成一个简单的公式:Value=WTP–Cost。WTP是顾客愿付的价格上限,Cost是企业的成本下限。这个差值愈大,企业可以创造与捕获的价值愈多。竞争力的本质,是持续拉大这个区间。臺湾电子业其实对这个逻辑并不陌生,只是过去很少使用这个框架思考。PC ODM时代,臺湾主要ODM业者用规模与供应链整合建立成本曲线(随产量提升而持续下降的单位成本)优势,后进者很难复制。晶圆代工龙头的逻辑更直接:良率每提升一个百分点,每颗芯片的成本就跟著下来,客户愿意支付的溢价也跟著上去,Value Stick从两端同时扩大。延伸报导专家讲堂:企业AI导入的7个层次面板业则是反面案例:规模竞争把整个产业的成本压到极限,但WTP没有跟上(市场竞争使售价持续下压,与成本同步探底),多数业者的毛利结构至今仍未完全恢复。这三个案例说明的是同一件事:成本曲线的优势一旦建立,追赶的代价是非线性的。AI带来的结构性影响,从成本与WTP两端同时展开——而成本这端,是最先被感受到的。成本这端是最直接的。IC设计业已经感受到AI工具带来的结构性变化。芯片验证是开发流程中最耗时、最昂贵的环节,过去资深工程师需要花费大量时间撰写测试程序、调整UVM test bench、反复确认覆盖率。EDA领先供应商推出的AI辅助设计优化工具,让布局最佳化与测试程序生成的部分工作可以由AI完成。根据个别设计专案的回报,PPA(功耗、效能、面积)提升达双位数百分比,设计与验证的反复修改时间显著缩短。值得注意的是,部分臺湾主要IC设计业者已不只是采用外部EDA工具,而是走向自行开发AI模型。出发点之一是设计數據的安全敏感性:核心IP不易外传至云端服务;另一方面也是对特定设计流程有更精准的优化需求。以芯片布局为例,已有业者透过强化学习(reinforcement earning)训练自有模型,在SoC布局预测上实现从数周压缩至数小时的设计周期,并公开发表于国际设计自动化顶尖会议。这个方向代表的是:AI能力的建立,开始从「购买工具」进化为「训练自有模型与内化能力」,两者的差距,未来将直接反映在研发效率与成本曲在線。EMS端同样在移动。臺湾主要EMS厂与全球GPU运算资源供应商合作建置AI工厂,已是目前最具体的公开方向:AI视觉检测取代人工目视、生产排程AI优化压缩换线时间、设备预测性维护降低非预期停机。逻辑一致:把过去依赖人力判断的环节,逐步转为AI辅助决策,让单位产出成本随规模扩张持续下降。国际管理顾问机构与商学院的研究显示,系统性导入AI工具的企业,知识工作的完成速度提升约25%、品质提升约40%,对应到制造端是良率改善、重工减少、客诉降低。WTP这端的移动比较不明显,但同样在发生。当IC设计公司能够更快完成验证、更快回应客户规格变更,品牌客户在选择设计伙伴时的考量开始改变:交期可靠性与应变速度,正在成为与价格同等重要的评估维度。对EMS厂而言,能够提供AI辅助的生产可视性与品质预测,已是部分品牌客户评估长期合作伙伴时的加分项。这不直接等于更高的售价,但等于更稳固的订单与更长的合作周期,这本身就是Value Stick上端的移动。根据国际顾问机构2024年全球调查,AI导入程度最高的4分之1企业,创造的价值是最低4分之的3至4倍。这个差距在信息电子业的具体呈现是:能够用AI压缩设计周期、提升良率、降低库存的公司,Value=WTP–Cost的数值在扩大;没有跟上的公司,面对同样的品牌客户成本下压,空间只会愈来愈窄。PC ODM时代的成本曲线建立花了10年,晶圆代工的良率优势积累更长时间。AI这条曲线的建立速度可能更快,因为工具的取得门槛低,扩散速度也快。但这反过来意味著,领先者的优势也可能更快被追上;除非持续深化、把AI能力嵌进组织的核心流程,而不只是导入工具。真正的问题不是有没有导入AI,而是AI驱动的效率累积是否已经反映在毛利结构上。至于AI带来的效率,最终能否转化为毛利结构的改变,答案会在接下来几年的财报数字里逐渐呈现。
2026-03-13
企业AI导入的7个层次
过去两年,AI科技公司市值飙升,传统本益比估值已不适用——市场溢价反映的是产业结构重组的预期,而非当期获利。对尚未投入AI的企业而言,问题不在旁观与否,而是从何切入,掌握这波AI红利。有效使用AI工具的企业,完成同样业务量所需的人力成本与工时正在缩减。这个落差当下还不明显,但历次技术变革的走向都说明同一件事:效率差距迟早会转化为成本结构的差距,而成本结构一旦落后,追赶所需的时间往往远超过补齐工具本身。企业使用AI的方式,其实有清楚的技术层次可循,从几乎零门槛的日常工具,到需要深度IT能力的定制化部署。理解这几个层次,才能找到合理的切入点。第一层:对话式AI的日常渗透。对多数企业而言,第一个接触点是ChatGPT、Claude等对话式AI,用于文件草稿、市场分析摘要、会议纪录整理、法规条文初步解读。这个入口看起来琐碎,影响却不容低估。麦肯锡(McKinsey & Company)的研究显示,使用生成式AI的知识工作者平均每天节省1.75小时;GitHub Copilot的实测数据则显示工程师完成指定任务的速度提升约55%。这一层几乎没有理由不做,唯一需要决定的是是否系统性地推动,而不是让每个员工各自摸索。第二层:嵌入工作流程的agent工具。这一层的关键不是AI「帮你建议」,而是给定目标,agent自主规划步骤、执行完成,员工负责最后审核。Cursor、Claude Code等coding agent是目前最成熟的例子,工程师描述需求,agent自己写程序、测试、除错,开发周期大幅压缩。但应用范畴已远不止于此:给定主题,agent自主产出完整投影片;描述财务逻辑,agent建公式、设架构、生成图表;会议录音进来,整理决议、分配待办、起草通知;业务开发上,agent研究目标对象、撰写个人化开发信、追踪回复进度,销售团队专注在真正需要人判断议题。当工作流程中有重复性高、步骤明确的工作,这一层值得认真评估。第三层:特定领域的第三方工具:HR的智能排班、聘雇、与绩效分析、客服的自动回复与情绪侦测、行销科技的广告投放优化,以及电商平臺如Amazon Seller Central的商品描述生成与动态定价建议。优点是导入快、ROI计算相对清晰,不需要IT深度介入;取舍是定制化空间有限,數據往往流向第三方。当特定职能有明确痛点、且不想花IT资源自建时,这是效益最快显现的选择。第四层:呼叫LLM API自建企业工具。当第三方工具无法满足需求,直接呼叫OpenAI、Anthropic、Google等的API(使用token),由内部IT开发定制化工具是下一步。例如串接内部ERP數據的智能查询界面、自动摘要供应商合约重点条款的审阅流程、根据历史订单提供采购预测的决策辅助系统。先决条件是具备一定规模的IT开发能力。數據流向云端是主要的风险考量;当这个风险可接受、且IT人力具备,这一层提供第三方工具难以达到的定制深度。第五层:自建模型环境,數據不出企业。当數據敏感度更高,或用量规模使云端API的成本不再划算,企业可以建立自己的模型环境。最常见的做法是部署开源模型,搭配RAG架构:模型的内部知识负责推理与回答,公司的文件、手册、历史纪录作为外部知识来源,在每次查询时动态检索补充,让回答有所依据。这个架构不一定需要自建实体服務器,企业可以在自己管控的云端环境中部署开源模型,运算资源租自云端、數據留在自己的空间,兼顾弹性与數據主权。对有特定领域需求的大型企业,可以进一步微调(fine-tune)开源模型,让模型精准理解内部术语与文件格式,但门槛不低,需要足够数量且标注完整的领域數據与相应的训练资源,成本可观,中小型企业直接使用RAG通常已足够。至于从头预训练(pre-training),几乎不在企业的选项之列——所需运算资源以亿美元计,是大型AI实验室才有条件投入的工作。同样在这个层次,边缘AI(Edge AI)提供另一条路线:推论直接在终端设备上执行,數據从不离开设备、延迟极低、断网也能运作。更值得关注的是企业多年累积的内部數據——制程参数、研发纪录、设备维护历史、客户交易记录——过去是沉睡的资产,现在可以透过本地部署的AI模型加以活化。不只是查询与检索,而是跨數據集推理:找出制程与良率之间人工难以发现的关联、连结多年研发纪录中被遗忘的发现、系统化留存资深员工的隐性知识。这类數據几乎不可能送上云端,本地部署的投资也因此有更明确的商业理由。第六层:整合多模型的AI决策平臺。在更高的复杂度层次,是像Palantir AIP这样的平臺:在企业既有的數據基础设施之上,同时整合多个LLM来源,让人员在不直接接触原始數據的情况下进行AI辅助决策。美国军方是其最具代表性的客户,商业端也快速拓展至制造、医疗、金融等场景。导入门槛高、周期长,但提供其他方案难以达到的整合深度与决策可稽核性。这一层适合數據环境复杂、决策责任明确、且已在第四、第五层累积相当经验的企业。成熟的企业AI策略往往是混合架构:日常文书使用云端LLM,敏感的内部知识查询走RAG加开源模型,特定职能采购第三方工具,产线實時判断、内部know-how活化走边缘AI。根据各任务的數據敏感度、使用频率与精度要求做出合理配置,不必一刀切。这7个层次表面上是技术路线的选择,背后是竞争力的重组。采用AI更彻底的企业,人均产出显著提升、决策周期缩短。对供应链而言,硬件架构的影响也同步在发生:企业端的AI推论需求快速成形,服務器、存儲器与边缘运算设备的采购逻辑正在重写。而组织层面,随著AI承接愈来愈多的文书、协调与初步判断工作,人员的职能重心从「执行」移向「决策」与「问责」——这对人才结构的重新界定,是企业领导者需要提早布局的课题。
2026-03-12
AI Token耗量持续攀升—推理模型的崛起与产业重塑
2022年下半,AI技术出现罕见的结构性转折。Frontier Model 首度同时展现出真正的泛化(Generalization)与多工能力(Multi-tasking)。泛化意味著模型学到可扩展的语义与分析能力,能在新的指令形式与问题情境下维持稳定表现;多工则意味著同一套模型可以服务翻译、摘要、图片生成、问答等截然不同的场景应用,无需为每个任务另行训练专用模型。这个突破,使AI从针对单一任务优化的垂直工具,转变为横向的通用、高成长智能服务。同时也对供应链产生實時冲击:自2022年下半起,數據中心的算力需求全面上修,GPU短缺从研究机构蔓延至企业端,并推动整条AI供应链——从芯片、服務器到应用层——重新定位。2024年的下一步:推理(Reasoning)登场。泛化与多工解决「能做什么」的问题,却没有解决「能想多深」的限制。对话式问答提供足够解方,但遇到需要多步骤逻辑推导的任务如解数学题、复杂程序除错、分析法律条文、科学探索、逻辑论证等,模型的能力局限就被暴露出来。这个落差,在2024年下半开始逐步被补上。OpenAI-o1的发布标志著推理时代的开始。推理模型呈现出更接近「System-2」的思考方式——借用心理学家康纳曼(Daniel Kahneman, 1934~2024)的框架:System-1是快速直觉式的反应,System-2是缓慢刻意的深层推理。在实际运作中,推理模型不会直接输出答案,而是先在内部展开较长的(推理)思维链(Chain-of-Thought, CoT),逐步分解问题、排查矛盾、整合逻辑,再收敛出最终回应。数学推导、程序除错、法律条文解析、医疗决策辅助——这些原本只有专业人士才能应付的复杂任务,开始出现跨越式的能力提升。推理能力的形塑,来自几个相互强化的技术突破。最基础的是思维链CoT训练。模型在训练时被要求把推理过程一并展开,而非直接给最终答案,强迫模型在解题时学会分解问题、逐步推进。这种推理的引导,显著提升复杂逻辑任务的表现。其次是强化学习(Reinforcement Learning)的深度整合。模型透过持续与真实任务互动并接收回馈,逐步找出「真正有用的答案」而非「听起来合理的答案」——这成为推理品质得以持续演进的核心机制。值得注意的是,强化学习的奖励机制,也间接强化模型「用更多token想清楚」的行为倾向——更长的思维链往往对应更好的答案,模型在训练中学会以算力(更多token)换品质。第三条路是推论时扩展(Test-Time Scaling),被视为继预训练(Pre-training)、后训练(Post-training)之后的第三条scaling law:不必重新训练模型,只需在推论(inference)阶段投入更多运算资源,让模型「想更久」,就能换取更好的答案品质。正因如此,随著用户数量增加,据报导,目前实际对用户服务时的推论运算需求,已经高于模型训练阶段的算力消耗。推理能力的代价,直接反映在token用量上。传统问答模式下,一次查询平均消耗数百个token;推理模型因为需要展开较长的内部推理步骤,每次查询的使用量往往是传统模式的10到50倍。这种倍数效应已在市场流量结构中浮现:目前推理模型的token使用量,已占整体LLM流量的6成以上,预计会持续增长。这不只是技术规格的改变,而是整个算力需求预测逻辑必须重新计算的开始。当推理能力成熟,一个更大的结构性转变随之而来:Agent 的崛起。Agent (代理人)不是升级版的聊天机器人,而是具备目标驱动、自主规划与多步骤执行能力的AI系统。没有深层推理,Agent只是预先编排好的流程;有了推理,它才能在复杂流程中深度思考,做出判断、处理例外、在不确定性中高价值任务。程序设计是第一个Agent的突破点。GitHub Copilot、Anthropic Claude与Cursor的AI coding工具,目前市占各约24%至25%,生产力提升幅度估计达1.5至3倍。从成长速度可以感受到市场反应的强度:Anthropic的年化营收(ARR)在2025年年增幅逾 800%,Cursor从1亿美元成长至10亿美元、年增达900%。法律、医疗、财务等垂直领域的跟进速度也正在加快:据报导,Harvey的法律AI ARR已达1.5亿美元。OpenEvidence在临床医疗场景的ARR同样超过 1.5 亿美元。这些垂直应用的共同特征,在于它们都依赖多步骤推理——不只是查询數據库,而是在法条、案例与临床指引之间做出复合判断,处理真实世界中的模糊与矛盾。推理的架构决定token耗量只会持续增加。每个新应用场景导入、每个Agent工作流程启动,都意味著更多的思考步骤与更高的算力消耗——这是推理模型的设计本质,不会因为效率优化而消失,只会因为应用范畴扩大而放大。对半导体、服務器、高帶寬存儲器供应链而言,这是结构性的长期需求信號。当推理能力从數字工作流程走向实体世界,影响规模可能再扩大一个量级。工厂排程、医疗诊断辅助、教育个人化、法律文件审查——这些场域一旦嵌入自主推理能力,改变的不只是工具,而是企业工作流程与人员分工的重组。这种重组很可能使对ICT基础建设的需求,从一次性的升级,转为更长期的投入。这波AI资本投入是否会在建设高峰后趋于平缓?推理模型提供一种不同的结构性逻辑。其特性在于,应用规模的扩张会直接转化为持续性的推理运算需求,而不仅是一次性的部署成本。当前推论已成为AI算力负载的主要来源,而推理型推论的运算占比不断攀升。再加上方兴未艾的Agent架构兴起,以及各种以token消耗为核心的智能服务快速普及,算力需求将不再仅仅随模型训练周期波动,而是与日常使用频率高度绑定。当使用深度与应用广度持续扩张,供应链从芯片、存儲器到电力基础设施所面对的需求动能,可能更接近结构性成长,而非单一景气循环所驱动。延伸报导专家讲堂:AI愈强,Token却愈便宜
2026-03-04
智能应用 影音