方法
AD-WM的训练与规划流程采用残差潜变量预测和动作恢复目标,塑造动作判别型状态转移。在测试时,模型预测控制利用学习到的动力学比较候选动作序列,而辅助头则不再使用。任务首先进行形式化,随后介绍模型、训练目标、规划流程,以及用于评估候选选择的诊断方法。

残差潜变量预测
连续的视觉表征通常共享大量状态信息。当前表征承载这些共享信息,而预测器估计剩余变化。给定学习得到的动作嵌入,AD-WM预测:
模型根据当前表征和动作嵌入,预测潜变量表征中的残差变化。
预测过程由编码后的后继表征提供监督:
训练预测残差,使其匹配编码后的后继表征与当前表征之差。
实验
实验围绕四个问题展开:
- Q1: AD-WM在仿真任务和配置变化下的表现如何?
- Q2: 残差预测和动作恢复分别如何促进控制性能?
- Q3: 哪些预测指标和选择指标最能反映闭环成功?
- Q4: AD-WM能否在无需实验室专门适配的情况下迁移至真实机器人?

结论与局限性
AD-WM是一种用于反事实模型预测控制的动作判别型世界模型。它将残差预测与预测器层面的动作恢复相结合,在不改变规划器的情况下保留动作信息。
实验表明,在五个仿真环境中的四个环境里,AD-WM的表现优于匹配设置的LeWM,并在无需实验室专门适配的情况下迁移至Franka。Cube消融实验表明,残差预测和互信息是贡献最大的因素,而逆动力学对平均成功率的影响较小且取决于权重。Cube诊断表明,精英遗憾指标比事实误差或全库排序更贴近成功率。
诊断仍仅限于Cube,且Scene在三个随机种子下的增益尚无法确定。外部对比在推理次数和检查点数量上有所不同。仿真和机器人后训练采用不同的辅助权重。机器人评估采用手动子目标和非随机化试验,并仅使用一个地点、一台相机和一个骨干网络。未来工作将研究更广泛的设置,并减少对手动子目标的依赖。
常见问题
什么是AD-WM? AD-WM是一种用于反事实模型预测控制的动作判别型世界模型。
AD-WM结合了哪些目标? 它将残差潜变量预测与预测器层面的动作恢复相结合。
AD-WM在哪些方面取得了提升? 在五个仿真环境中的四个环境里,相较于匹配设置的LeWM,它取得了更好的表现,并在无需实验室专门适配的情况下迁移至Franka。
主要局限性是什么? 诊断仍仅限于Cube,而机器人评估采用了手动子目标、非随机化试验、一个地点、一台相机和一个骨干网络。
