让世界模型先“写代码”再动手:AW-0 智能体世界动作模型深度解读与银行智能体的四点启示

核心摘要

  • AW-0 是 UC Berkeley、NVIDIA 和宾夕法尼亚大学团队 2026 年 10 月 21 日发布的“智能体世界动作模型”:同一个模型同时生成三样东西——技能代码、未来视频和机器人动作(来源1、2)
  • 它要解决的是两条路线各自的短板:世界动作模型(WAM)能预测未来画面,但缺少可组合、可复用的技能;“代码驱动”的智能体机器人会规划、能复用技能,但缺少对物理动态的预测(来源1)
  • 最关键的实验结论是:代码不是装饰。8 项真机任务平均 71.1 分,比最强基线 DreamZero 的 46.0 分高 25.1 分;去掉代码流只剩 32.9 分,而推理延迟只多 0.04 秒(来源2)
  • 它的数据管线本身就是一个多智能体系统:Gemini 3.1 Pro 写子任务程序,Claude Code(Claude Opus 4.8)当协调者把反复出现的套路蒸馏成技能,最终冻结出 50 个技能,再用缓存复用标注整个语料(来源2)

常见问题

AW-0 是什么?

AW-0 是 UC Berkeley、NVIDIA 和宾夕法尼亚大学团队提出的智能体世界动作模型,在一个三专家混合 Transformer 中联合生成技能代码、未来视频和机器人动作(来源1、2)。

代码流对 AW-0 的效果影响有多大?

在 8 项真机任务中,完整的 C→V→A 架构平均 71.1 分,去掉代码流的 V→A 版本只有 32.9 分,而推理延迟从 0.19 秒增加到 0.23 秒(来源2)。

AW-0 的技能库是怎么来的?

由 Gemini 3.1 Pro 基于原语 API 为演示编写子任务程序,Claude Code 作为协调者把反复出现的套路蒸馏成技能,冻结后得到 50 个技能,再用缓存复用标注全部语料(来源2)。

AW-0 对银行智能体有什么启示?

把计划写成可校验的技能调用代码;从历史案例中蒸馏并冻结技能库;执行前做阶段、依赖、白名单等检查,不通过就转人工或只给建议;关键参数另设独立复核(本文分析)。

AW-0 是 UC Berkeley、NVIDIA 和宾夕法尼亚大学团队 2026 年 10 月 21 日发布的“智能体世界动作模型”:同一个模型同时生成三样东西——技能代码、未来视频和机器人动作(来源1、2)。

它要解决的是两条路线各自的短板:世界动作模型(WAM)能预测未来画面,但缺少可组合、可复用的技能;“代码驱动”的智能体机器人会规划、能复用技能,但缺少对物理动态的预测(来源1)。

最关键的实验结论是:代码不是装饰。8 项真机任务平均 71.1 分,比最强基线 DreamZero 的 46.0 分高 25.1 分;去掉代码流只剩 32.9 分,而推理延迟只多 0.04 秒(来源2)。

它的数据管线本身就是一个多智能体系统:Gemini 3.1 Pro 写子任务程序,Claude Code(Claude Opus 4.8)当协调者把反复出现的套路蒸馏成技能,最终冻结出 50 个技能,再用缓存复用标注整个语料(来源2)。

对银行智能体的启示(本文分析):把计划写成可校验的“技能调用代码”而非自然语言;让智能体从历史案例中蒸馏技能库并冻结版本;执行前过一道语法、依赖、白名单检查,不通过就退回更保守的路径。


素材说明:本文依据 arXiv:2610.30136 摘要页(来源1)与作者项目主页(来源2)。论文 PDF 超过 44 MB,本文数据均取自项目主页公布的图表与正文,二者为同一团队发布;全部结果为作者自报,截至本文写作未见第三方复现。凡来源事实标注编号;对银行的映射标注“本文分析”。

一、一句话看懂 AW-0

维度内容来源
团队UC Berkeley、NVIDIA、宾夕法尼亚大学,18 位作者,Trevor Darrell、Linxi “Jim” Fan、Yuke Zhu 等共同指导来源1、2
发布2026-10-21 提交 arXiv,cs.RO,CC BY 4.0;代码与预训练模型已公开来源1、2
核心思想把代码、未来视频、动作当作三条耦合的生成流,在一个混合 Transformer 中联合生成来源1
代码的双重角色在模型内部组织多步预测与控制;在模型外部作为可复用程序供智能体执行来源1
数据约 2000 小时 YAM 双臂机器人遥操作 + 约 1000 小时第一视角人类操作,共 2913 小时、248,642 段、606 项任务来源2
技能库50 个冻结技能(机器人 23 个、人类视频 27 个)来源2

二、架构:三个专家,一条单向的“信息坡道”

2.1 三个专家各管一件事

每个专家有自己的注意力投影、层归一化和前馈网络,在每一层通过带掩码的联合注意力交流。注意力在专家内部双向,跨专家按 代码 → 视频 → 动作 分块因果:代码只看代码,视频看代码和视频,动作看全部三者(来源2)。

2.2 联合去噪:代码和动作一起“想清楚”

2.3 两种执行方式

三、数据管线:用编码智能体给 2913 小时视频“写程序”

这是本文认为最值得业务领域借鉴的部分(来源2):

  1. 技能发现:每项任务抽样一段演示,Gemini 3.1 Pro 基于只声明不实现的原语 API(如 pick、place、rotate、handover)编写子任务级程序;Claude Code(Claude Opus 4.8)作为协调者,把反复出现、跨任务通用的套路蒸馏成技能。
  2. 冻结技能库:形成 50 个技能,每个都是基于原语 API 的 Python 函数,以操作对象为参数,例如 fold_edge_over(双臂捏住布边、拉过去、松开)、tilt_pour_over_target(端起容器到目标上方倾倒再复位)。
  3. 全量标注与缓存:用冻结后的词表重新标注样本,建立“子任务 → 程序”缓存;其余语料当接触与运动特征匹配时直接复用缓存程序,只有缓存未命中才调用编码智能体。

训练时代码流由一段条件提示加上当前子任务的“活跃片段”组成,只有活跃片段被掩码监督(来源2)。

四、实验结果

4.1 仿真:RoboTwin 2.0(50 项任务、每项 50 次评测)

方法干净场景随机化场景平均
π0.554.927.741.3
DreamZero33.617.625.6
EgoScale26.22.914.5
WLA64.83.634.2
AW-0(默认)80.820.650.7
AW-0(混合)63.129.246.2

单位:成功率 %,所有方法每项任务用 50 条干净演示训练(来源2)。

两个看点:默认模式在干净场景领先最强基线 WLA 16.0 个百分点;混合模式在背景、纹理、光照、桌高和干扰物随机化下最稳健,保留了干净场景表现的 46%,默认模式只保留 25%,代价是干净场景低 17.7 个百分点(来源2)。

4.2 真机:两种机器人、8 项任务

在固定底座双臂平行夹爪的 YAM 平台,以及配两只 22 自由度灵巧手的天机—Sharpa 人形上半身平台测试,每项任务 3×16 次、随机初始物体位置、按累加评分细则打分(来源2)。

方法摆水果装背包换灯泡叠毛巾夹子摆水果发扑克翻记分牌拧魔方平均
π0.570.849.763.881.77.313.126.336.143.6
DreamZero53.336.767.479.822.637.128.442.546.0
EgoScale37.527.360.253.317.625.640.824.935.9
WLA39.629.656.074.614.222.929.752.339.9
AW-091.764.675.084.454.258.368.872.171.1

(来源2)

灵巧手任务上差距最大:例如“夹子摆水果”AW-0 为 54.2,π0.5 只有 7.3。在“叠毛巾”任务上,混合模式达到 90.6,高于纯动作执行的 84.4:灵巧的折叠靠动作专家,接近和码放等结构化动作交给代码(来源2)。

4.3 消融:哪些设计真正起作用

对比结果(8 项真机平均分)来源
代码放在最前(C→V→A) vs 放中间(V→C→A) vs 无代码(V→A)71.1 vs 48.3 vs 32.9来源2
代码专家用独立 ViT vs 复用 VAE 特征71.1 vs 55.6来源2
完整代码 vs 无注释代码 vs 无技能调用 vs 自然语言子目标71.1 vs 62.8 vs 63.3 vs 63.6来源2
联合去噪 vs 先自回归生成代码71.1 vs 54.5来源2

延迟方面,在 RTX 5090 上联合去噪 0.23 秒、自回归 0.55 秒(快 2.39 倍),无代码版本 0.19 秒(来源2)。

作者还对比了预测画面:指令是“最后左碗里只剩芒果”,AW-0 的预测画面伸向芒果,用自然语言子目标的版本在苹果和芒果之间犹豫,无代码版本伸向苹果(来源2)。

五、局限与失败案例

作者坦承三类局限(来源2):

六个典型失败包括:夹爪夹到篮壁、拉拉链时把背包拖倒、灯泡未对准螺纹、夹子闭合着去戳梨、交接时牌堆滑落、指尖滑离记分牌边缘(来源2)。

本文分析:随机化场景下默认模式只有 20.6%,说明在真实世界的“脏数据”面前,整体能力仍有很大差距;所有结果均为作者自报,评分细则由作者设计,需等待独立复现。

六、对银行智能体的四点启示(本文分析)

本节全部为本文分析。 AW-0 是机器人论文,银行不会直接用它。但它回答了一个通用问题:智能体的计划应该用什么形式表达、怎么复用、怎么安全地执行。 以本站长期关注的资产保全业务为例:

6.1 计划写成“技能调用代码”,而不是一段自然语言

消融显示,完整代码比自然语言子目标平均高 7.5 分,去掉技能调用或注释都会下降。对银行而言,案件处置计划如果写成:

核验债权金额(案件)
检查诉讼时效(案件, 最近催收证据)
排查财产线索(债务人, 来源=[不动产, 车辆, 股权])
起草保全申请(案件, 担保方式)  # 需法务审批

比“先核实金额,再看时效,然后查财产并准备保全”更容易校验、审计和复用。注释同样有价值——它把程序结构和业务意图连起来,正是审计人员最需要的。

6.2 从历史案例中蒸馏技能库,并冻结版本

AW-0 的数据管线可以几乎原样映射:

AW-0资产保全对应
原语 API(pick、place、rotate)系统操作原语(查询档案、调取合同、查询征信、生成文书、提交审批)
编码智能体给演示写程序让智能体把已结案案件的处置过程还原成原语调用序列
协调者蒸馏跨任务技能归纳出“抵押物处置”“诉讼时效中断核查”“破产债权申报”等可复用技能
冻结技能库技能库版本化、经法务和风险条线审定后冻结
子任务 → 程序缓存同类案件直接复用已审定程序,只有新情形才调用大模型

缓存复用有两个好处:降低调用成本,更重要的是让同类案件得到一致处理,减少“同案不同办”。

6.3 执行前过闸门,不过就退回保守路径

AW-0 的混合模式要求代码通过阶段、依赖、语法、白名单和非空操作五项检查才执行,否则交给另一条路径。银行可以直接借鉴这个结构:

但要记住作者自己指出的问题:仲裁只看合法性,不看可靠性;语法正确的程序可能参数错误。银行场景中,金额、日期、当事人这类参数必须有独立的复核环节。

6.4 “先想后做”比“边看边做”更稳

C→V→A 的顺序(先生成计划,再预测结果,最后动作)在 8 项任务中有 7 项最优;先自回归生成代码会让早期错误传导下去,而联合去噪能让计划随预测一起修正。对银行智能体,这对应两条经验:计划要在执行前显式写出;计划应能根据中间结果修订,而不是一次生成、一路执行到底。这与 Anthropic 近期提出的“写计划和执行计划的是同一个模型”的观点相互印证。

七、结语

本文分析:AW-0 的价值不只在机器人分数,而在于证明了“代码”可以同时充当智能体的思考语言、技能载体和执行接口。对于高度依赖规则与流程的银行业务,这三种角色恰好对应可审计的计划、可积累的经验和可管控的执行。真正可借鉴的不是模型结构,而是方法:用原语定义边界,用智能体蒸馏技能,用冻结和缓存保证一致,用校验闸门守住执行。

事实来源

  1. arXiv:2610.30136 摘要页(来源1):作者、机构、2026-10-21 提交、cs.RO 分类、CC BY 4.0 许可、摘要中的方法与结论。
  2. AW-0 项目主页(来源2):三专家架构、联合去噪、记忆缓存、混合执行五项检查、自动标注管线与 50 个技能、2913 小时训练数据、RoboTwin 2.0 与 8 项真机结果、消融、延迟、失败案例与局限。
  3. agentic-wam 代码仓库(来源3)与 Hugging Face 预训练模型(来源4):项目主页列出的公开代码与模型。

本文推论部分(非来源表述):第六节全部内容、各处“本文分析”段落与结语。

本文不构成投资建议、技术选型建议或合规意见。

(内容由AI生成,仅供参考)

参考文献

  1. Agentic World Action Models(arXiv:2610.30136) [arXiv,cs.RO,2026-10-21 提交,CC BY 4.0]
  2. AW-0: Agentic World Action Models 项目主页 [论文作者团队项目页]
  3. agentic-wam 代码仓库 [GitHub]
  4. AW-0 预训练模型 [Hugging Face]