DIGITIMES
徐宏民
台灣大學信息工程学系教授
台灣大學信息工程学系教授,曾任富士康集团与Stellantis合资车用科技公司技术长暨副总经理,推动ADAS及智能座舱系统产品进入全球车用市场。纽约哥伦比亚大学电机博士,专精于机器学习、电脑视觉、自驾车、机器人等领域。为讯连科技研发团队创始成员,慧景科技(thingnario)共同創始人,NVIDIA AI Lab計劃主持人;曾任IBM华生研究中心及美国微软研究院客座研究员。担任多家科技公司AI策略顾问,习惯从学术与产业双重视角检验技术发展的机会与挑战。
Physical AI还缺什么?机器人都会跳舞、跑酷、接棍子了
9月底在美国匹兹堡参加机器人顶尖会议IROS 2026。一家机器人新创的摊位上,双臂机器人在玩「接棍子」(falling sticks)游戏,几根棍子悬在上方随机落下,手臂要在半空中瞬间抓住。这类游戏原本用来测试人的反应速度。这一年也看到不少机器人跳舞、跑酷(机器人障碍赛)、跑半马的影片。这些表演代表什么?机器人已经有完备的AI能力了吗?先看跳舞。中国一家人形机器人大厂2025年在春节晚会让机器人跳舞。这类表演常见的做法是「动作追踪」(motion tracking),录下人类动作、对应到机器人骨架,在模拟器里用强化学习训练一个照著做又不跌倒的策略,再直接用到实体机器人上。硬件则靠高扭矩关节与3D激光雷達定位。外媒报导指出,这是用真人舞者數據预先编排的表演。跑酷多了一层判断。2026年初,柏克莱加州大学、史丹佛大学、卡内基美隆大学等研究团队,把多个跑酷技能蒸馏成一个以深度影像驱动的策略。机器人只靠深度鏡頭与移动方向、速度的指令,自己决定障碍物要跨过、爬上还是撑越。但往哪里去?为什么去?仍由人决定。把这三个例子放进机器人的控制架构来看。控制大致分成5层,往上愈慢、愈抽象,往下愈快、愈贴近实体动作。最上层由大型语言模型理解指令、拆解步骤,大约每秒1次或更少。往下是视觉语言动作模型(VLA),决定手要抓哪里、怎么移。再往下是负责移动与平衡的运动策略、协调手臂与腿部的全身控制,最底层的马达电流控制大约每秒上万次。借用心理学家康纳曼(Daniel Kahneman)《快思慢想》的说法,上两层像需要专注推理的「系统二」,下三层像快速、直觉的「系统一」。跳舞、跑酷、接棍子,都落在系统一。这几层的分工目前还在调整。一家美国人形机器人新创把全身控制独立出来,称为「系统零」,用超过1,000小时的人类动作數據训练成一个網絡,业者表示取代10万多行手写程序。运动策略与全身控制两层,看来正被学出来的控制器合并。为什么停在系统一?因为这几层的數據较易取得。「照著人类动作做、不要跌倒」几乎适用每个动作,成败几秒就知道。刚体与地面的接触也容易模拟,GPU上可以同时跑几千臺虚拟机器人,走路策略很快就能训练出来。上层刚好相反,「折好衣服」「帮我微波午餐」很难写成奖励,手指与物件的细微接触,模拟也不准。所以这些表演多半是模拟器里用强化学习练出来的,机器人身上还缺一个有深度思考、推理能力的「大脑」。这些表演证明的,是平衡、移动与全身动作已经成熟许多。北京的人形机器人半程马拉松赛,2025年首届多数队伍跑不完,2026年已有队伍50分钟出头完赛。资金也跟著进来,依市场研究机构统计,2025年全球实体AI(Physical AI)新创募资近400亿美元,2026年上半已超过470亿美元(统计范围也包含自驾车、无人机等)。缺的部分,从系统二到场域部署,我的观察有6项:第一是长时序任务。公开展示的自主任务,大多只有几分钟、数十个连续动作,离工厂一个班次的8小时还很远,过程中也要能推理、确认自己有没有做完。第二是泛化,关键在數據。上层要的做完工作的數據,目前多半得在真实世界累积,遥控操作因此从机器人做不到时的补位,也成收集數據的方法。也有团队让模型从实际执行与人工修正中学习。第三、第四是硬件与接触。便宜的是身体,手、触觉、电池与耐用度还没跟上。2026年7月一家美国科技大厂发表的模型,让人形机器人蹲下从地上捡东西,成功率还不到5成。第五是安全。固定的机械手臂断电后停在原地,需要主动维持平衡的机器人则可能倒下,针对这类机器人的国际安全标准,目前仍在草案阶段。第六是部署。依国际机器人联合会(IFR)统计,2025年全球工业与专业用途的人形机器人约7,000臺,不少是买来产生训练數據,实际在场域使用的极少,流程怎么改、投资报酬怎么算,都还在摸索。这几年控制与硬件的能力、韧性持续进步。硬件价格往下、系统二的能力往上,两条线交会之后,机器人投入场域才看得到投资报酬。如果场域部署的能力也跟著补上,未来几年Physical AI agent对产业的影响,可能又会超乎我们的想像。
2026-10-06
AI评测,一直是门好生意
新模型每隔几周就有一批,哪一个比较好,很多时候看的是排行榜。排行榜背后的评测,表面上是订规则、跑數據、比分数的学术活动。但拉长时间看,办一场公开评测,或是在里面拿到好名次,一直是门好生意,只是每个年代收钱的人不太一样。我在2002到2007年于哥伦比亚大学攻读博士,研究主题是影像与视讯查找,亲身参与多年美国国家标准暨技术研究院(NIST)主办的TRECVID年度评测。每年,全球数十个研究团队各自送出系统,针对同一批影片、同一套题目测试,排名公开。这项评测的赞助单位包括美国国安体系的研究机构,在当时的研究圈里,排名也会直接影响团队后续争取研究经费,美国的顶尖研究团队都很认真看待每一次评测。2006年,Netflix把自家的推荐演算法问题公开悬赏,只要有人能把预测误差比现有系统降低10%,就拿走100万美元奖金。一家公司把核心演算法问题公开交给外界解决,在当时相当少见。公司不必先知道谁解得出来,只要把问题和验收标准定清楚,达标才付钱。2009年,奖金由一支跨团队组成的队伍拿下。在Netflix之后,愈来愈多公司把竞赛当成向外找解法的管道。2010年成立、2017年被Google收购的Kaggle,把这套模式做成一个平臺。任何公司都能把數據放上去、定好评分方式、提供奖金,换取全球數據科学家帮忙解题。奖金之外,排名本身也成了参赛者的履历,有些公司会直接从排行榜上找人。2010年开始举办的ImageNet影像分类竞赛,则提供一个研究团队普遍认可的公开基准。2012年底,一支使用卷积神经網絡(CNN)的队伍把错误率大幅拉低,这个结果后来常被视为深度学习时代的起点。但在当时,不少资深的电脑视觉学者并不认同,甚至抱持怀疑的态度。直到接下来两年,一系列CNN方法在ImageNet上连续大幅跃进,他们才陆续接受并投入。ImageNet让影像識別的「进步」第一次有了公开、可验证、逐年比较的衡量方式,數據也开放给全世界的研究社群,不必参赛就能使用。说服学界的,是这些每年公开、任何人都能验证的结果。后来的AI评测排行榜,大多沿用这个形式。2013年10月,微软研究院与自家的查找引擎Bing联合办了一场影像查找的公开竞赛,奖金1万美元。我的一组学生就为了这1万美元报名参加,最后真的拿到全球第一名。那年5月,我们原本用的是传统的电脑视觉特征,测试时偶然换上CNN撷取的特征,准确率大幅跃升。当时CNN刚在ImageNet崭露头角,还没普及到各个电脑视觉题目,我们算是提早一步,在自己的研究上验证这个转折点。当下,我们决定把研究典范转到CNN,并把各种经费拿去买GPU,也引起NVIDIA注意,促成2016年9月开始和NVIDIA合作成立NVIDIA AI Lab。近年臺湾也有不少企业与政府单位举办AI竞赛。比赛一多,顶尖团队会挑著参加。如果要办,奖金额度,以及主办单位的影响力,往往是能否吸引到好团队的决定点。2023年,柏克莱大学一组研究生与教授推出Chatbot Arena网站,让使用者同时对两个匿名大语言模型提问,投票选出比较好的回答,再用这些真人偏好算出模型排名。2025年4月,这个研究转为新创LMArena,不到1年估值就来到十几亿美元,在新创圈相当受瞩目。前面几个例子,付钱的都是出题的一方。LMArena收钱的对象,反过来是被排名的一方。各家AI实验室付费取得私有、不公开的测试环境,或是付费使用LMArena的评测工具与數據产品,来验证自家还没发表的模型。测试平臺成了关键數據的供应商。METR的做法不同。这个2023年底独立的非营利组织,专门替各家前沿模型做部署前的安全评测。METR主要看的是「任务时长」,也就是AI代理人能以特定成功率,独立完成多长时间的人类专家任务,如今是业界衡量AI能力进步的常用指标之一。METR表示不接受被评测实验室的捐款,资金主要来自慈善基金会与个人,2026年8月公布过去半年募得逾7,000万美元的资金承诺。被评测的实验室仍会提供免费的运算额度,供METR评测使用。从TRECVID到METR,评测的形式换了好几次,排名一直影响经费与人才的流向。如今LMArena与METR的评测结果,还会影响模型往哪个方向改进、外界如何评价一个模型,甚至企业的商业决策。被评分的前沿模型公司愿意付钱或提供运算额度,换取一个外界相信的分数。影响力愈大,评测单位的公信力就愈重要,也愈被放大检视。当AI进步的速度超过我们判断好坏的速度,掌握「分数是怎么被决定的」,可能就跟做出被评分的模型一样有价值。
2026-10-02
SLAM不只为Physical AI提供地图,也建构空间记忆
上一篇谈到,传统SLAM将地图交给路径规划,任务就差不多完成。对自主机器人来说,地图建好之后,新的应用(与挑战)才开始,包括查找、导航到指定的位置、记住看过什么,以及留给模型(复杂情境)推理时读取。实体AI(Physical AI)的记忆,和大型语言模型的记忆(memory)很不一样,它往往得和3D位置绑在一起,而且可能因环境变化而过期。先看导航与查找。指令开始换成自然语言,例如「把二楼会议室的空纸箱收到回收区」,自主机器人得自己把任务标的对应到地图上的位置。这类问题研究上称为grounding,也就是把语言中的描述,对应到空间里的物件或位置。做法是把视觉语言模型的特征结合到地图上,机器人不必事先学会识别那个箱子(现在的视觉语言模型多半具备zero-shot的識別能力),也能找出「靠窗那排料架上白色的箱子」。3D几何地图还是基础,只是现在加上丰富可操作的「语意」。地图也开始被当成记忆来用。半导体厂使用四足机器人沿固定路线读取仪表、记录管线与机臺外观。这些制造业用户希望机器人在巡检时随时比对,看出环境有没有差异。地图因此要够密、位置要够准,机器人也得记得上一次看过什么。问题是,这些记忆需要随时被更新。工厂、仓储、卖场的环境常在变动,料架被移动、走道被暂时堆放、产线改造。所以不能只靠定期重建一次地图,机器人得边执行任务边更新。更新也不必一臺包办。上一篇谈的车队协同,搬到室内同样适用,几臺机器人一起建图,也一起更新「空间」记忆。只是规模不同,路上每天有大量车辆经过同一段路,厂区里往往只有少数几臺机器人,每一次观测都重要。协作时的座标一致性、更新帶寬、运算能力、以及观测不一致时的调整等,各个技术环境都是一个全新挑战。还有一层干扰来自现场走动的人员与移动机具。多数SLAM假设场景是静止的,这些移动中的人与机具会被划进地图,既干扰定位,也留下抹不掉的残影。常见的做法是额外加上语意分割模型把它们挑出来,代价是画面处理时多花几秒,耽误實時性。我们最近的研究换了个方向,使用追踪器算过的信號判断哪些像素在动,善用时序以及既有的结构信號,降低繁重的深度学习运算,成本可以降低几十倍,使用单一镜头摄影机,在单张消费级显示卡上每秒可以超过20帧。前面谈的都是怎么把环境记下来。再往前一步,地图甚至开始直接进到模型的推理里。模型读取的脉络(context)也不再只有文字token,开始出现带有3D位置与视角信息的空间token。2026年一项研究把单眼影片重建出的3D特征与鏡頭视角做成空间token,连同影像本身的视觉token一起喂给语言模型,显示物件计数与路线规划都跟著改善。这类做法目前多在室内场景验证,搬到整座厂房、或是大范围的场域还没有定论。如果机器人进去场域前连地图都没有,任务进行的难度更高。例如,紧急进到灾后或结构受损的建物,楼板与楼梯可能已经变形,机器人得一边走一边把3D的图建起来,还要记得刚刚看过什么,才知道哪里还没去过、哪条路可以通行,万一受困又该从哪里撤出。推理的结果决定下一步往哪走,下一段地图(记忆)也跟著长出来。这还在很早的阶段,真实灾场的烟尘、照明与通讯条件,都比实验环境更恶劣。这种按位置取记忆的需求,已经开始改变系统怎么做快取。语言模型用键值快取(KV cache)把算过的留著避免重算,存儲器因此成为推论瓶颈之一。也有研究指出,模型连续推演影片画面时,每一帧就要上千个token,1分钟的推演累积到数十万个,吞吐量大幅降低。一般做法是丢掉最旧的,但是在空间自主运作时,再回到同一个地方,先前看过的空间记忆就没了。已经有做法把快取按鏡頭位置分块保存,回到同一个位置时再取回对应的那几块,不必重算。等于用位置而不是时间,决定什么该留下。地图要能导航,也要能当作空间记忆,让模型拿去推理。SLAM这个老题目,因此有了新的角色。所以Physical AI需要的,可能不只是更长的脉络或更多存儲器,而是一套知道哪里该记、什么时候该更新、哪些东西可以忘掉的记忆系统。
2026-09-24
AI揭密:token被拿去做什么
要不要自己采购AI服務器、哪些工作留在地端,都得先假设token会如何被使用。用量若集中在连续呼叫工具、跑几十分钟的代理(Agent)任务,存儲器压力与机器被占用的时间,都跟一问一答的聊天差很多。别人到底怎么用,一般不会揭露。Anthropic在2026年9月公布一份威胁情报报告,整理2025年12月到2026年8月之间查获的滥用行为,意外提供平常看不到的使用情境。我们得先理解,这不是一般使用行为的样本。Anthropic挑出来的本来就是少见的异常案例。先拿掉身份、目的与谁在做这些事,剩下的是模型被当成什么工具以及如何使用token。这些人没有采购流程要走,也不受法遵限制。这批案例不是工业界常态,但很适合拿来看AI实际被用在哪里。我们大概有几个工作样貌的观察。第一类是整段工程交给模型,包括程序与模拟。有人从底层逻辑一路做到使用者界面,做出一套十几个模塊的信號处理軟件,前后迭代十几个版本;也有人把同一个模型同时开好几份使用,各给一个角色,一个写程序、一个查數據、第三个审查第一个写出来的程序,像在带一支小型工程团队。这批人还拿模型调校控制演算法,把模拟结果对照既有的参考实作校正,为的是少做几次实体测试。最后那套模拟工具被打包成独立执行档,不靠模型也不靠商用工程軟件就能自己执行。第二类是反复操作工具,直到任务完成。模型先读數據、形成假设,呼叫外部工具,拿到结果再判断下一步,改完继续跑。报告里有一条韧体分析流程,把二进位档丢进反组译器(Disassembler),连续执行数千次反组译与交叉参照,模型据此写出验证程序,测不过就再来一次。这样的回路,代理人连续跑了一个月,找出十几个可能的漏洞。第三类是常驻与排程。有十几个代理人编成一组,照排程轮班,固定去公开网站抓内容,再交给下一段摘要、评分,做成报告送进发布平臺。也有人跑「代理人群」,由一个主代理人把工作拆开,分派给多个子代理人平行处理。这类系统会把目标清单、进度、每一轮的结果与长期指令一起存著,下一次开工不是从头来过,是接上次停的地方,信息查找范围还会一轮一轮扩大。这些流程在无人监管的情况持续运转。第四类是把大量非结构化數據整理成可查询的纪录。有人把10臺云端主机串成一条生产线,下载大量的Android应用程序,逐一反编译,扫描里面写死的金钥与凭证。有人整批上传社群贴文,让模型产出带信心分数的结构化纪录;也有人用模型做出一套分析层,跨平臺核实、探查使用者身份。第五类是模型被拿去调教另一个模型。有人用前沿模型开发自己的训练基础建设,包括强化学习环境与模型架构研究。有人做蒸馏,为了找出哪一种问法能问出模型的推理过程,一次送出上万个询问,每个换一种技巧。另一起蒸馏单日一度接近数百万次交换,报告说搜集到的推理过程可以转换成微调數據,用来训练模型。用量最大的客户未必是人或軟件,也可能是另一套正在学习的模型。报告另外依自主程度分了几级。最低的一级是对话式的助手,模型帮忙写程序、做工具。中间是模型直接执行,但每一个目标由人决定。最高的一级是多代理人架构连续跑上几小时甚至几天,同时处理好几个对象,人几乎不介入。人还深入参与的,报告举了3项决策:挑目标、决定成果怎么用、验收结果。交给模型的是耗费token的一整段任务,从前期探索、写工具到跑數據。过去相当耗费人力,只有资源多的团队可以负荷,现在token降低门槛。把这些用法放在一起看,AI工作负载开始出现几个共同特征:任务变长、工具呼叫变多,有些还要跨天接续上一次的进度。下指令的是人,真正把token用掉的,愈来愈多是后面的代理人与工具链。这些用法之所以被看见,是因为运算都发生在同一家公司的服務器上。报告里还有业者把使用者以为送进自家模型的请求,转送给另一家公司的前沿模型,再把回应当成自家答案显示,同时把这些对话留下来训练自己的模型。那些被保存的对话含有姓名、电子邮件与公司内部數據,涉及数百名终端使用者。使用者应该从头到尾不知情,也未曾同意过。所以运算放在哪里,愈来愈不只是成本问题。主权AI、自建推论、开放权重模型这几年被重新放上议程,理由多半算在成本、延迟与法遵上,现在要再加一项——使用行为本身也可能外流。token在哪里被耗掉,使用行为就在哪里留下痕迹。
2026-09-18
什么是SLAM? Physical AI的第一步,是知道自己在哪里
上一篇谈到自动化与自主性的差别,自动化把不确定性从环境里移除,自主性需要系统在复杂环境中运作,两者最大的差异,是自主机器人得走进没有事先整理过的环境中完成工作,机器得知道自己在哪里、周围环境状况,还要在执行任务的同时,安全、有效率地在场域中移動。背后的关键技术,是SLAM(Simultaneous Localization and Mapping),机器要一边定位,一边把环境画成地图。自驾产业是最早把高精地图变成关键元件的产业之一。许多无人出租車进入一个新城市时,第一件事仍是先完成街道测绘,建立地区(高精)地图后才开始营运。地图要多精细是一个成本问题。车辆定位,可以只保留道路曲率、车道线、路标、号志或路缘等少数稳定特征,让车辆拿眼前看到的特征与地图对位;也可以更细致地把车道线、路缘、号志、与街景都定位到厘米级。愈精细,定位愈准,维护成本也愈高。量产车开发实务中,图的更新频率是关键,而施工、标线重画、号志调整甚至车祸随时在发生,地图一旧反而会引发自驾导航风险。另外是谁来更新。早期地图靠专用测绘车(配备昂贵定位设备),一条路一条路测绘,巷弄密集更费时,更新频率决定新鲜度,成本与涵盖范围、频率成正比。后来导入分散式(crowd-sourcing)的做法,让已经在路上跑的量产车顺手做,行驶中回传道路特征,每臺车每公里约几KB,1年约几百MB,后端把众多车辆的信息融合拼出道路结构。车愈多扫过,地图品质愈好。那机器人呢?如何定位,如何动态建图,还有哪些全新应用?问题是,要定位,得先有图;要画图,又得先知道自己在哪里(而且室内不能用卫星信號定位)。两件事互相依赖,像是鸡生蛋、蛋生鸡。SLAM针对这个问题,同时估算两者,边走边修,这个概念1980年代后期提出,1990年代中期定名,到现在40年。机器先从连续的画面或点云估算自己移动了多少,这一步的误差会累积,走得愈远偏得愈多。所以还要能认出「我回到刚才来过的地方」,一旦认出来,累积的偏差就能一次修正,再把沿路所有位置和观测一起重新最佳化,让前面累积的误差重新分配;在视觉SLAM里,常见的做法就是bundle adjustment。重新开机或搬移之后,机器还得在既有地图里重新定位。这几件事分别叫做里程计(odometry)、回路闭合(loop closure)与重定位(relocalization),要长时间、大范围运作,通常得三者一起解决。要多准,傳感器的信號也扮演关键角色。激光雷達直接量到距离,几何结构最明确,定位通常也较容易;鏡頭便宜且信息丰富,但深度需要额外估计。深度鏡頭每个像素都有距离,有效范围却多半在几米内,室外也容易受光线干扰。实际的系统几乎都是混用,再补上轮速。高度是另一个长期被忽略的问题。早期室内SLAM常见的做法,是把环境简化成一张二维地图,只记录同一个平面上有没有障碍物,当成整个空间能不能走的依据,对轮式机器人够用,因为它只在同一个楼层的地面上移动。当机器人的移动自由度开展,上坡、跨门槛、爬楼梯、完成抓取任务之后,这个假设就不管用了,能不能踩、碰撞,都得从立体结构判断。地图因此得从二维变成3D,傳感器与运算也跟著加重,避障也得算进高度,毕竟真实环境不是干净、规整的,桌面上有杯子,地上散落著鞋子。更大的变化是地图的表示方式正在改变。传统SLAM多半记录稀疏特征或几何结构,神经辐射场(NeRF)与3D Gaussian Splatting(3DGS)等新的场景表示方法,则让机器开始保存更完整的3D外观与空间信息;与SLAM结合后,一般鏡頭也能在移动过程中逐步建立细致的3D场景。我们在2023年就用单眼鏡頭做过这件事,而且不必为每个场景预先训练。新一代SLAM纪录下的,不再只是2D照片或没有空间结构的视讯,而是數字化的3D环境。密集的3D图有很多非常有潜力的运用,特别是加上推理能力,但这些运算多半得放在机器人身上完成,边缘端的算力与储存还是限制,例如工地或产线的进度比对、资产盘点与异常侦测、生成训练數據,或是产生數字分身。因此,Physical AI时代重新看SLAM,重点已经不只是「怎么把图画准」,而是「怎么把真实世界变成AI可以持续读取、更新与推理的空间记忆」,这是下一篇要谈的重点。图建好了,然后呢?传统SLAM的任务到这里差不多就完成,地图交给路径规划,机器人照著走。对Physical AI来说,这才是开始。导航、记忆,以及推理等各种自主效能力,都要从这张图长出来。
2026-09-09
Autonomy vs. Automation:自主机器人与自动化
8月中参观臺北国际自动化展。2026年参展活络,规模比2025年成长7%。走一圈下来,实体AI(Physical AI)、视觉语言动作模型(VLA)等字样充满会场,连展臺上的介绍都讲得一口流利的VLA。但是展示机器人仍在栅栏内以固定节拍重复同一个动作,引导对位的是贴在料架上的定位标签,组装线材前先用治具固定线端。展场的用词走在产品能力前,不难想像。但是眼前这些展示还在「自动化」(automation)范畴,离「自主性」(autonomy)还有多远?自动化的做法,是把不确定性从环境中移除。治具固定物件的位置,围篱隔开人的动线,逐点教导与离线程序编辑给定动作顺序,安全光栅与急停则用来降低异常状况下的风险。机器人因此能正确地重复工业动作。自主性的方向刚好相反。环境不动,改用系统本身去承受不确定性。剩下的意外,由备援人员介入。无人出租車(Robotaxi)算是自主性的先驱。Waymo在2026年2月揭露,约3,000辆车的车队,在線有数十位線上协助人员。车辆遇到状况,人员才介入。这不是盯著特定车辆,也不是線上代驾,但介入从常态变成例外处理,这一步花了十多年。數字世界的自动化是RPA(流程自动化軟件)。规则先订好,适合重复而固定的工作,没定义的状况就停下来。AI代理(AI Agent)则处理需要判断与例外的任务,自行拆解工作流程,在回馈机制下重新规划、重试或修正,那是數字版的自主性。这主要受惠于近来大型语言模型的技术突破,但是能在非结构化环境中通用操作的实体自主性,仍有相当距离。既然自动化做得好,为什么还要往自主性走?因为这可能是一次「典范转移」,不只机器人变聪明灵活,而且成本结构、竞争态势也可能改变。自动化的支出里,为单一场域做的工程往往占比高,每多一条产线就得多做一次。自主性把比重往系统本身移,前期重得多,包括导入与整合成本,但只要有一部分能跨场域重用,就有机会随规模摊掉。在少数场域,这样的转变已经开始浮现。送餐、仓储搬运与商用清洁的任务与环境高度相似,导入时的建图与流程设定免不了,规模通常远小于改造一条产线。同一款机器可以复制到下一家,按月订阅的方案也跟著出现,收费方式和SaaS类似。这几类还谈不上完全自主,虽然会自己避开走动的客人、重新规划路线,但让规模化成立的主要是任务相似。若跨场域重用的比重提高,以单一场域定制工程为主的价值可能被压缩。值钱的部分也可能往两端移动,一端是致动器、传动与力傳感,另一端是模型、數據与垂直应用的调校。自主性可以发挥的,比较可能是场域改造特别贵的地方。长期照护、医院物流、大型设施巡检、灾害现场,这些环境难以预先结构化,过去多半停在展示阶段。其中一些需求不是不存在,而是很难在传统自动化的成本结构下成立。自主机器人,还需要哪些技术突破?推论与长时序常被提到,专栏先前谈过。比较少被放在一起看的是接触、新硬件与评估。接触这一项的说法相当反主流。有研究团队在2026年提出,机器人操作之所以慢,是因为整套系统都为了「避开」接触而设计。方向应该倒过来,「Make contacts friends, not enemies」。这不只是加装力觉傳感器,可能要连硬件形态、规划重新考量。已经有团队初步实现。杂乱的环境里本来就不一定存在完全不碰的路径,于是让VLA先判断哪些东西可以碰、哪些碰不得,例如拨开布偶去拿遥控器可以,撞倒玻璃杯不行,再据此规划动作。灵巧手与触觉傳感这些新硬件发展较迟。视觉在模拟里已经可以做得很逼真,但一碰到东西就容易失准,形变、摩擦等物理特性较难掌握。电子皮肤与触觉模塊又是每一家一套规格,还没收敛。评估这一项问的是另一件事,怎么确认做对了,做错了又怎么改。Agent之所以成功,靠的很大一部分是评估验证。失败可以低成本记录、重播与复制,數字工作执行几千次也不会弄坏任何东西,错误看得见,也就修得动。实体世界没办法这样。机器人失败一次,坏的是真的东西,也可能伤到人,错在哪不见得留得下来。近年多数研究各自订一套评测流程、用自家的指标。能在真实场域中跨平臺收集、又被广泛采用的共同评测框架,仍然很少。既然实体失败成本高,确认就得挪到动手之前。世界模型受到期待,原因之一就在这里,先在模型里把动作预演一遍,可行再执行。回到展场。目前多数展示还落在自动化,这套做法仍在创造产值。接触、新硬件与评估不会同时被解决,「自主性」比较可能从某一个场域先突破。当某个场域被证实能以较少的定制工程规模化部署,生意的重心就有机会从逐案的定制与整合,转向可跨场域复制的产品。
2026-09-02
我该买高端AI服務器吗?
最近一位在产业界的朋友跟我分享,这两年LLM崛起,对他们的产品研发帮助很大,团队还额外开发几个全新的代理人(Agent)。但他算了token花费之后很惊讶,一年下来的金额,已经比买下一整柜高端AI服務器还多。即将导入的大规模应用还会把用量再往上推,他也担心产业know-how送进外部模型。于是他们很认真地评估:是不是应该自己买(租)AI服務器?这不是单一公司的处境。一家美国叫车平臺业者原本鼓励各团队大量使用token开发,4个月后全年的AI预算就用完了。接下来就是设上限、个案申请,强制「配给」。配给不是因为变贵。同等能力的推论价格长期快速下滑,帐单却愈来愈大,这个机制本专栏〈Token帐单之后:AI运算架构的5层重组〉谈过。当时是推估,现在有实际的帐单可以看了。不过帐单变大本身不是买(租)机器的理由。先确认投资报酬率(ROI),再做工作分级与流程最佳化。剩下的工作如果用量持续稳定、數據不能离开公司、服务也不能中断,才值得自己拥有模型生产token。第一步是看ROI。所有变革都得先回答一件事,对企业改善哪些量化指标。常见效益是省下的人力与外包、缩短的交期,再往上是客户满意度、新营收与竞争力,最后都反映在毛利、甚至本益比上,本专栏〈AI改写的不是效率,也是毛利结构〉谈过这一层。第二步是把工作分级,依难度配上能力与价格相称的模型。可预测、量大、规格明确的任务可以不需要前沿模型,蒸馏出来的小模型、开放权重模型或较低端的API都能处理,单位成本可以差1~2个数量级,前沿模型留给真正需要深度思考的环节。第三步是工作流程的最佳化与迭代。工厂电气化初期,多数业主只是把蒸汽机换成一臺大马达,天花板上的传动轴照旧,产出的改善很有限。要等到每臺机器各配1颗马达、厂房不再绕著传动轴配置,生产力与弹性才提升。Agent接上现有流程,多半只是把原来的步骤做快一点,只有将工作流程重新规划过,效益才会显现。反过来说,帐单有相当一部分也是被流程设计出来的。几周前一位在美国AI原生(AI native)新创担任C-level角色的朋友分享,他们负责市场开发的只有个位数人力,年化营收(ARR)几个月内翻倍到数亿美元。这样的杠杆主要来自整套工作流程的改造,不全然靠买运算能力。有两类状况,值得付出溢价或是买保险。第一类是「敏感數據」:设计图、制程参数、客户规格等,本来就不宜离开公司。代理人能稳定接手的还是结构化程度最高的那一小块,其余得靠人帮补,工作切得愈长、步骤愈多,需要补的地方就愈密—规格、报价逻辑、内部know-how也就跟著提示词一起出去了。目前的折衷是先改写再送出,把敏感栏位换成代号,或用地端小模型把提示重写一遍。2026年一篇论文整理8种隐私保护方案,并实测其中4种可行方法及其组合。最严格的一组是地端分流加上遮罩与改写,可以把个资泄漏率降到0.6%,但程序码仍有31.3%外泄。个资有固定样式可以識別并置换,但是经验与判断散在整段叙述里,换掉几个名词隐匿不了。对产业界真正在意的那类數據,改写是减少损失(曝险),不是解方。第二类是「随时可用」。Token目前已逐渐成为产业的必需品,供应一中断,就不只是不方便。網絡断线、供应商停机、尖峰被限制用量,任何一项发生,产品研发就停摆。版本下架也是,供应商依自己的时程淘汰旧版模型,验证过的流程可能得重做。地端模型的能力比不上前沿,但它不会在某天早上突然不见。如果外部模型今天停3个小时,有多少工作会一起停,又有多少可以靠(较弱的)地端模型备援?到这里,才考虑自建。前面那家新创走的是租。买或租不是重点,重点是能不能取得自己调度的运算能力,让數據不必送进第三方前沿模型API,并由自己控制模型与版本。推论需求愈大、愈稳定,设备利用率愈高,自建的优势就愈明显。多数公司最后会是混用,量大又规格明确的留在地端,需要深度思考的仍然呼叫外部前沿模型。选择自建,机柜之外有不少overhead。机房、电力、散热还需要几组人:维运硬件的工程师、负责选型与微调的模型工程师、把服务接回既有系统的开发人力。这几种人现在都很抢手,养得起的中型企业不多。而且配置不是做一次就好,换一次模型就得重新部署、重新验证。硬件一买就是好几年,开放权重模型却几个月就出一批更好的,这个节奏落差是自建评估里特别容易被低估的一项。回到开头那位朋友。他们团队后来决定买了。在那之前,他已确认这两年的投入有可量测的ROI。帐单只是其中一个理由,真正让决定成立的,是有些产业know-how本来就不该送出去,有些工作一断线就停摆,加上他看得到未来2、3年的成长。换一家公司,同样一笔帐单很可能得出相反的答案。买贵了还算小事,难的是买完之后,需求长得跟当初评估的不一样。
2026-08-24
为什么模型训练需要「蒸馏」?
2019年前后,一位在大型云端服务业者任职的朋友兴奋地分享:他们训练一个CNN模型处理单据文字識別,效果不错,但直接上线的运算成本太高,于是用「蒸馏」(distillation)训练出一个较小的模型来提供服务,发现还挺有效的。蒸馏一直是深度学习常用的策略之一,也称为师生架构(teacher-student)。用一个能力好的大模型当「老师」,训练另一个「学生」模型(不一定较小)。手上有没有原始标注數據,各有对应的做法。早期做法在2015年前后成形,最直接的是让学生去逼近老师的输出,不需要标注。后来加上「软目标」,或与原始标注數據一起用;也可以让学生模仿網絡中间层,不只看最后的输出。这套做法到今天仍在用,但搬的不只是模型大小,而是能力。我们近期的研究让老师看密集的3D点云、学生处理刻意稀疏化的点云,把两边的中间特征(理解能力)对起来,稀疏点云限制下的3D識別能力(机器人、自驾车)就被提升上来。到了大型语言模型,蒸馏的角色又不一样了。2025年初,一个开放权重的大型推论模型把自己的推论过程蒸馏进一系列小模型,有些的表现接近当时的闭源前沿模型。从那之后,能不能用前沿大模型训练出成本可接受的小模型,就成为大家瞩目的焦点。语言模型的训练,可以粗分成两大阶段。预训练(pre-training)吃的是海量文字,学的是语言结构与世界知识,可以说是让模型牙牙学语的阶段。后训练(post-training)教的是另一件事,模型怎么遵循指令、把话说得专业,把复杂问题抽丝剥茧处理好(推论)。需要的训练數據就是「一个专业的回答长什么样」,而前沿模型正好能生成这样的數據。所以蒸馏用在后训练特别直觉。蒸馏怎么做,开放权重的模型多半会披露在技术报告中。差别主要在老师给学生什么信號。最简单的一种是把老师生成的文字当教材。设定一批问题让老师(前沿模型)回答,收下来的问答就是训练數據,只要拿得到API,蒸馏就能启动。细一点的是让学生逼近老师在每个字上的机率分布,这需要模型权重。Google的Gemma连预训练都用蒸馏,后训练再从大型的指令模型蒸馏一次。近期较受关注的on-policy蒸馏又更进一步,让学生先用自己的方式作答、老师逐字批改。在数学竞赛题上,用约10分之1的运算量就能达到强化学习的水准。老师也不必只有一个或一定更大。已经有模型用上超过10个各自专精的领域老师,把不同专长蒸馏转移进同一个学生。把公司數據训进模型之后,原本的对话与指令能力常会退化,这时拿还没微调过的原始版本当老师,有机会把退化的部分教回来。但蒸馏并非总是有效:2026年的一项研究指出,老师与学生用同一批數據、量又足够大时,增益相当有限,數據稀少的领域任务才是它发挥空间较大的地方。前面谈的是狭义的蒸馏,老师与学生都是模型。把范围拉大,前沿模型也可以当成知识与數據的来源,协助标注甚至担任代理人(Agent)。过去要建數據集,得找标注人力、写规范、做品管,周期以月计。现在例行、量大的标注工作,部分前沿模型的输出品质已经堪用,单位成本也低得多,需要专家判断的领域当然还有难处。一种做法是让大模型直接提供监督信號。如低光源影像增强传统上需要成对的明暗影像当参考,训练影像不易取得。我们近期的做法是改用视觉语言模型(VLM)对影像内容的理解当引导,就能在没有参考影像的条件下训练,下游的分类与物件侦测都因此受惠。另一种是用大模型产生數據标注。我们建过一个电影理解的问答數據集,问的是角色动机与情节因果这类需要思考推论的问题,人工出题慢,也难维持一致品质。做法是让多个语言模型扮演不同的思考代理人,各自提问、互相检视与修正,再产出问答數據集。前沿模型直接担任數據标注的Agent。还有一种是把常识搬进训练系统。长时序的机器人操作任务难在中间没有回馈信號,我们的做法是先用语言模型把任务拆成不同阶段与所需动作,列出各阶段应有的物体状态,再让视觉模型依这套结构判断任务进度、建立奖励信號。这些过去要靠工程师逐条写进系统的常识,现在能从前沿模型(自动)取得。令人更期待的是,蒸馏有机会做出能力好的较小模型,把运算从云端往外移。对企业来说,较小的模型在部分推论任务上已逼近前沿,有机会在数张GPU的地端服務器部署。自建小模型也因此从构想变成可评估的选项:法务、财务、产业know-how这类信息密集又不宜外传的领域尤其明显。训练前沿模型的花费以数亿美元计,但能力一旦以API或开放权重现身,让小模型接近它的成本低了一到两个数量级。另一个方向是终端装置:手机、机械手臂、检测设备都可受惠于蒸馏。机器人的需求特别直接,它要在实体空间里實時执移動作,许多控制环节没有等待云端往返的余裕。高速产线的检测设备也一样,模型再准,跟不上产线节拍就用不上。使用大模型生成或标注數據再训练自己的模型,已经是研发的常态,前提是条款允许。前沿模型供应商的服务条款多半禁止拿模型输出去训练与他们竞争的模型,各家的界线并不一致。另一条路是改用可自行部署的开放权重模型,生成与训练都在自己手上,也避开數據外流。早年蒸馏搬的是識別模型的效率,现在搬的是语言、推论与常识。老师模型愈强,能搬的就愈多。
2026-08-17
地球运作也可以有基础模型 (Foundation Model)
2026年入夏以来,台风与极端高温频繁进入新闻版面。放大到近几年,豪雨与干旱轮流上场,已逐渐成为常态。而理解、预报这些天气的技术,正逐渐转向AI。70年前,人类第一次用电脑做天气预报,把大气层切成格点,用物理方程序描述流体运动,交给超级电脑逐步求解。这套方法称为数值天气预报(Numerical Weather Prediction;NWP),至今仍是全球气象业的骨干。每次全球预报都要在数百万个网格上反复求解流体力学方程组。气象单位的标准作法还利用ensemble,同时跑多组条件略有差异的预报,用多个结果来改善预测品质。所以,运算是刚性需求,气象也长期是全球高效能运算(HPC)的大用户之一。AI挑战数值天气预报的成果,从2022年前后开始出现。Google DeepMind的GraphCast在标准评测的90%预测上,胜出欧洲中期天气预报中心(ECMWF)的主要数值模型。华为的盘古模型采用同样的數據驱动作法,论文估计其「推论」(实际预测时)速度比当时的营运数值系统快超过1万倍。2025年5月,微软(Microsoft)的Aurora再推进,在超过百万小时地球相关地球观测數據上预训练,再微调出空气品质、海浪、台风路径、高分辨率天气4个应用版本,在各自的评测项目上都优于现行的数值系统,其中5天台风路径预报胜过7个主要预报中心。2026年7月,Aurora的新版再加入能源、农业、交通等需要的预报项目,同时也公开释出模型权重(13亿参数)。ECMWF在2025年已陆续把自家AI预报系统AIFS的单一预报与ensemble版本,纳入每日例行预报的正式流程,与传统数值系统并行。美国国家海洋暨大气总署(NOAA)也在2025年12月部署AI全球预报系统,以开源的GraphCast为基础,再用NOAA自己的數據进行额外训练,其中传统物理模型与AI混合的ensemble,表现优于两者单独使用。70年来由超级电脑支撑的气象预报,目前是两套系统并行运作,而依NOAA的数字,AI版预报用的运算量不到传统系统的1%。但运算需求不会因此消失,AI预报每次起算,仍要靠传统系统把全球观测整合成一致的初始状态。成本差距这么大,是因为AI模型预报的方式与传统NWP大相迳庭。NWP的逻辑由物理定律出发,把已知的定律写成方程序,再用大量运算逐步推演大气状态。AI模型则从几十年的历史數據学状态之间怎么转变,不必在每次预报时重新求解完整的方程组,也不要求先理解背后的物理机制。作法上与语言模型从文本学结构、AlphaFold从序列与结构數據学规律相近。主要的运算成本落在预训练与微调,之后每次推论只要少量运算,秒级到分钟级就能完成。标的也不只有天气。传统地球系统预报由大气、海洋、海浪与空气化学等模塊串接而成,彼此交换信息,但各模塊有各自的數據、方程序与开发流程。Aurora则是同一个预训练模型微调出不同任务版本,学到的不只是天气,还包括地球系统其他层面的动态。有趣的是,原本集中在国家级气象机构的预测能力,正在往产业端扩散,变成可以自己部署、自己微调的一项基础能力。能源是最直接的例子。各主要市场的尖峰与离峰电价差正在拉大,數據中心与各类新增电气化用电的成长又推高尖峰,电网业者同时推动需量反应、时间电价与电网级储能,试著用各种手段把用电尖峰压下来。国际能源总署(IEA)估计,全球住宅空调贡献约600 GW的尖峰负载,但实际被调度的比例仍低。这些节能操作都得提前预备。需量反应得先通知用户,储能得决定何时充放,前提是知道什么时候缺、缺多少。而尖峰出现的时间与高度,相当程度由天气决定。空调只占全年用电约1成,却占了尖峰需求的3成;以印度为例,2024年气温每上升1度,尖峰需求就增加7 GW。太阳能与风电的出力同样取决于天候。我们多年来参与太阳能电厂的智能监控与发电量预测,与电力公司长期协作,台风前后那几天的发电量预测不确定性明显升高,也正是调度特别需要可靠信息的时候。NWP的维运要有超级电脑、實時观测數據整合与跨国观测站網絡,门槛一直很高。几个代表性模型的权重已经公开,推论的运算需求远低于传统NWP,用自有數據微调的作法也逐渐普及。能源、物流、农业、保险,原则上都有机会微调出贴近自身需求的预测系统。几个局限还待克服。目前已知效能仅限于评测基准上的统计结论,进入电网调度或供应链决策之前,仍需在具体场域验证极端事件下的稳定性。空间分辨率是另一个实际限制。以Aurora为例,分辨率较高的全球预报也只到约11公里,对初略天气型态已有参考价值,对太阳能光电场址层级的预测仍不足。臺湾多山地形往往需要公里级分辨率,还得再把粗网格的预报细化到局部地形,实务上这段差距目前多靠场址端的實時量测与在地數據来弥补。更根本的是,AI模型的训练數據来自历史气候,气候变迁正让极端事件的频率与型态偏离历史分布,这是所有靠數據学习的方法都会碰到的问题。同一套「基础模型」的想法正在往DNA序列、材料结构等领域扩散。地球系统不一样的地方在于,它的预测结果每天都得使用。语言模型出错,多半只是一段不可靠的文字。地球模型出错,影响的是明天的发电、用水与物流安排。其他领域的基础模型多半还在改变研究的方式,地球系统的模型已经进入营运现场,每天接受现实检验。
2026-08-11
AI Agent能力版图到哪里了?未来呢?
Token单价下滑、总消耗量大增,专栏2026年3月分析过,趋势至今有增无减。新一代前瞻模型朝AI代理(AI Agent)的使用型态设计:这几个月各家前瞻实验室竞争加剧,接连发布的新模型能规划任务、分派工作、运用各种技能与工具、直接操作电脑界面,定价却更低。AI代理正被快速导入各种知识工作。那么,AI代理真的能承接知识工作吗?能承接多少?尚未承接的部分,是还没有人投入,还是技术未到?7月初参加在加州圣地牙哥举办的计算语言学年会ACL 2026,一场「AI代理人与工作的未来」专题讲座(tutorial)把技术现况以及这些问题拆开来看。浮现一张让人惊讶的能力版图:AI代理已经站稳的区域,小得出乎意料;版图之外,一部分是还没有人投入的空白,另一部分是技术还待克服的难题。先看站稳的区域。前瞻模型业者OpenAI在2025年推出代理人基准测验(benchmark)GDPval,从GDP贡献最大的44种职业中,设计出1,300多项「规格明确」的真实任务(如简报、财务模型、工程图说),来测试代理人执行能力,并请同行专家盲评AI与人类的成品。依业者2026年4月发布的最新结果,最强模型的成品已有逾8成被评为不输人类专家;这套基准2025年9月推出时,这比例还不到5成,再前一代模型也只达到1成出头。依业者推出这套基准时的估算,完成速度与成本约为人类专家的百分之一。单看这些数字,AI代理似乎已经可以上工。但这片区域在整个劳动版图上有多大?ACL会议中主讲的CMU团队把目前43个AI代理基准测验(学术、产业时常使用的Agent评测任务)共72,342个任务,对应到美国1,016种职业的技能分类(参考美国O*NET职业信息數據库)。基准测验的分布,可当作目前AI代理研发重心地图:考题集中的地方,训练數據与研究人力也跟著集中。结果显示,任务多数落在「取得信息」与「操作电脑」2项技能,在整体就业所需技能中的权重合计不到5%;投入最深的程序与数学领域,只对应7.6%的就业人口。原因不难理解:这些工作结构化程度高、输入输出明确、成功与否可以验证。本专栏先前提过,自动化总是先从结构化的场域开始,研发投入也一样。版图之外的第一种空白,是还没有人投入的高价值区。同一份报告指出,管理、法务、建筑工程的工作已高度數字化(约88%、70%、71%),基准测验的覆盖却只有1.4%、0.3%、0.7%,而管理正是以薪资加权后经济价值集中的领域。这些工作中不少环节有明确的输入输出,未必是技术做不到,更可能是还没有人投入;论文称之为「错失的机会」。一旦投入到位,对企业来说,这里可能是生产力改善较早出现的地方。第二种空白,是技术还待突破的复杂工作。數據标注平臺业者与AI安全研究机构合作的「線上劳动指数(Remote Labor Index)」,从接案平臺选取真实付费委托(3D建模、建筑图说、影音制作、數據分析等,专业者完成一件的中位时间约11.5小时),让前瞻AI代理端到端执行,再由人类评审对照专业接案者的成品盲评,以此模拟企业交付员工的工作指令。指数2025年10月发布时,最佳模型只有2.5%的专案达到可验收水准。真实委托的需求模糊、规格多步骤、常要求修改既有成品,这些都还没被结构化。长时序的复杂任务是另一道关卡。前述CMU团队的报告同时量测AI代理自主性:即使在表现最好的軟件领域,任务复杂度一提高,成功率就明显下滑;其他测验加入工具中途出错、给定信息不完整、需要多人协作等情境后(模拟真实复杂场域),表现同样走低。值得注意的是这张版图移动的速度。2026年7月,研究机构以最新一代模型、搭配更完整的代理人执行环境重测線上劳动指数:最佳模型的成功率已从2.5%升到15.8%,前后不到1年;同一份更新也指出,绝大多数专案的成品仍达不到专业验收水准。两个现象并行:能做的还很少,推进的速度很快。GDPval从1成出头到逾8成不输专家,说的是同一件事:AI代理目前的能力版图比想像中小,但持续扩张中。这类成长难免包含针对测验最佳化的成分;但这两套测验过的是人类专家对真实成品的验收,能拉高分数的改进,多半也是AI代理真实能力的提升。目前技术扩张的方向也有迹可循。研发正把做不到的难题当成训练目标:新一代测验把出错、协作、真实委托等情境逐步纳入题目,最新的训练方法把专家验收的标准(rubric)转成训练信號;今天做不到的清单,很可能就是下一轮训练數據与运算投入瞄准的地方。还没有人投入的高价值空白,很可能也将循同一条路逐步被填补。回到开头的需求端。目前代理人技能只在结构化的一小块版图上站稳,如今的用量成长与供应链投资,大致就发生在这一小块之上(但已相当可观)。版图之外的大量工作,仍由人补位:厘清模糊的需求、拆解执行步骤、修正最后的产出;而这些补位动作,专栏近期谈过,正是企业在教模型。目前AI代理能完成的工作比想像中少,但是需求已经这么大,而技术能力版图还在往外扩。接下来市场的成长与组织的变动,可能又会超乎我们的想像。
2026-07-30
智能应用 影音