T2-z 通过环境潜变量条件化来增强机器人世界模型。该方法交替进行世界模型优化和环境潜变量优化:前者学习动作条件动力学,后者捕捉隐藏的环境因素。面对新环境时,世界模型保持冻结,仅优化潜变量。在七项仿真任务和四项真实世界任务中,T2-z 在视频预测和动作选择方面均优于基线方法。
方法
T2-z 在优化世界模型与优化环境潜变量之间交替进行。世界模型学习动作条件动力学,潜变量则捕捉隐藏的环境因素。适应新环境时,世界模型保持冻结,仅优化潜变量。

仿真器与真实世界设置
自定义任务使用基于 LIBERO 的仿真器和 Franka Panda 机械臂。仿真 RGB 视频以 20 frames per second 的速度录制,[所提供文本未注明图像分辨率]。动作表示包含 14 个通道。
标准世界模型基线
标准世界模型基线使用汇集的任务轨迹,对以 BWM 初始化的 DiT 和动作编码器进行微调。该基线不使用环境潜变量或测试时适应。
该基线使用 AdamW,模型学习率为 [所提供文本未注明该数值],权重衰减为 [所提供文本未注明该数值],包含 100 次预热更新,梯度裁剪为 [所提供文本未注明该数值],并使用 bfloat16。

计算效率
计算效率测试在具有代表性的 Friction 设置下,使用一块 H200 GPU 进行。每种方法先预热两个优化器步骤,再对后续十个步骤计时。
报告的指标为每次更新仅计算部分的优化器耗时中位数(不包括数据集读取时间),以及 GPU 显存分配峰值;这并非完整训练运行时间。每次受测更新包含六个参与损失计算的视频片段,并计入各方法特有的条件化计算。
T2-z 的世界模型更新与潜变量更新分属不同阶段,因此分别报告。LoRA TTA 从标准世界模型开始,不存在单独的世界模型训练行。
结论
T2-z 通过环境潜变量条件化来增强机器人世界模型。该方法交替进行世界模型优化(学习动作条件动力学)和环境潜变量优化(捕捉隐藏的环境因素)。面对新环境时,世界模型保持冻结,仅优化潜变量。在七项仿真任务和四项真实世界任务中,T2-z 在视频预测和动作选择方面均优于基线方法。
常见问题
适应新环境时,T2-z 会优化什么? 它会优化环境潜变量,同时保持世界模型冻结。
世界模型优化会学习什么? 它会学习动作条件动力学。
环境潜变量会捕捉什么? 它会捕捉隐藏的环境因素。
仿真和真实世界任务总共有多少项? 论文报告了七项仿真任务和四项真实世界任务。
