动作判别型世界模型提升反事实机器人控制

动作判别型世界模型提升反事实机器人控制

Jiabin Qiu, Zixuan Chen, Hongye Cao, Jieqi Shi, Jing Huo +1 位

1 分钟阅读•2026年9月25日

方法

AD-WM的训练与规划流程采用残差潜变量预测和动作恢复目标,塑造动作判别型状态转移。在测试时,模型预测控制利用学习到的动力学比较候选动作序列,而辅助头则不再使用。任务首先进行形式化,随后介绍模型、训练目标、规划流程,以及用于评估候选选择的诊断方法。

AD-WM动作判别型世界模型架构

残差潜变量预测

连续的视觉表征通常共享大量状态信息。当前表征承载这些共享信息,而预测器估计剩余变化。给定学习得到的动作嵌入,AD-WM预测:

模型根据当前表征和动作嵌入,预测潜变量表征中的残差变化。

预测过程由编码后的后继表征提供监督:

训练预测残差,使其匹配编码后的后继表征与当前表征之差。

实验

实验围绕四个问题展开:

  • Q1: AD-WM在仿真任务和配置变化下的表现如何?
  • Q2: 残差预测和动作恢复分别如何促进控制性能?
  • Q3: 哪些预测指标和选择指标最能反映闭环成功?
  • Q4: AD-WM能否在无需实验室专门适配的情况下迁移至真实机器人?
用于评估AD-WM的仿真环境

结论与局限性

AD-WM是一种用于反事实模型预测控制的动作判别型世界模型。它将残差预测与预测器层面的动作恢复相结合,在不改变规划器的情况下保留动作信息。

实验表明,在五个仿真环境中的四个环境里,AD-WM的表现优于匹配设置的LeWM,并在无需实验室专门适配的情况下迁移至Franka。Cube消融实验表明,残差预测和互信息是贡献最大的因素,而逆动力学对平均成功率的影响较小且取决于权重。Cube诊断表明,精英遗憾指标比事实误差或全库排序更贴近成功率。

诊断仍仅限于Cube,且Scene在三个随机种子下的增益尚无法确定。外部对比在推理次数和检查点数量上有所不同。仿真和机器人后训练采用不同的辅助权重。机器人评估采用手动子目标和非随机化试验,并仅使用一个地点、一台相机和一个骨干网络。未来工作将研究更广泛的设置,并减少对手动子目标的依赖。

常见问题

什么是AD-WM? AD-WM是一种用于反事实模型预测控制的动作判别型世界模型。

AD-WM结合了哪些目标? 它将残差潜变量预测与预测器层面的动作恢复相结合。

AD-WM在哪些方面取得了提升? 在五个仿真环境中的四个环境里,相较于匹配设置的LeWM,它取得了更好的表现,并在无需实验室专门适配的情况下迁移至Franka。

主要局限性是什么? 诊断仍仅限于Cube,而机器人评估采用了手动子目标、非随机化试验、一个地点、一台相机和一个骨干网络。