MetaWAM 将机器人信号打包至统一潜在接口

MetaWAM 将机器人信号打包至统一潜在接口

Guoqiang Liang, Yiqi Lin, Yanzhe Chen, Kevin Yuchen Ma, Mike Zheng Shou

1 分钟阅读•2026年11月12日

诊断实验追踪候选机器人信号注入视频扩散模型(VDM)后的去噪过程,涵盖单信号注入和多信号打包。实验测量冻结去噪器在不同噪声水平下对注入潜变量的校正程度。机器人信号在潜在空间中的排列会显著影响去噪器:与空间平铺或不连续画布布局相比,频域打包得到的潜变量受到的校正要少得多。因此,仅仅追求紧凑并不足够;有效的接口必须考虑数据分布。

MetaWAM 基于 Cosmos-Predict2 架构构建,并在 RoboCasa、LIBERO、LIBERO-Plus 以及三项真实世界 Franka 桌面任务上进行评估。它将多个机器人信号帧合并为一帧,同时优于 RoboCasa 帧注入基线。这项工作将机器人信号注入重新定义为联合世界动作模型(WAM)的分布感知潜在接口问题,提供诊断证据表明,相比空间信号编码,频域打包与预训练 VDM 先验的对齐效果更好;同时提出统一的频域元帧,无需解码器即可在单个潜在帧中承载所有机器人信号,且无需改动架构。

分布感知的频谱提升

将机器人向量广播至空间网格会产生恒定模式,而将数值打包到空间区域则会造成不连续性。这些是动机分析所识别出的失效模式。MetaWAM 则在频域中编码机器人变量,再将其提升回空间潜变量。

通道频带布局

对于每个元帧,MetaWAM 会构建一个稀疏系数张量,为不同机器人信号分配互不重叠的通道频带,每种信号占用一个频带。选取动作、未来本体感知和价值槽位即可还原其原始形状;任务和当前本体感知频带则作为输入。选定的系数直接表示归一化信号,因此无需再进行逆 DCT。

潜在空间中机器人信号编码方式的动机对比

槽位感知的任务路由

双粒度掩码

路由在两个粒度上运行。槽位级掩码在元帧中承载所有任务语义。系统从该掩码确定性地导出单通道粗粒度掩码,用于原有的视频去噪路径,因此六个视觉帧可通过预训练 VDM 预期的接口进行条件化。

细粒度掩码承载所有任务信息。粗粒度掩码不承载任何任务信息,其唯一作用是保持与骨干模型的字节级兼容性。

MetaWAM 打包和路由机器人信号的框架

结论

MetaWAM 将机器人信号注入视为分布对齐问题。冻结去噪器的诊断结果表明,与空间复制和基于区域的替代方案相比,频域打包更具优势。固定系数槽位和解析式 DCT 读取为联合策略、世界模型和值函数学习提供了紧凑接口。在 RoboCasa、LIBERO、LIBERO-Plus 和真实世界 Franka 任务上的结果,展示了该接口的效率和适用性。

局限性

当任务重要性或信号尺度差异较大时,固定频带布局和损失权重可能需要调整。指令跟随能力仍受 Cosmos-Predict2 骨干模型限制;增强语言对齐能力是一个有价值的研究方向。LIBERO-Plus 也显示出模型对背景变化和机器人初始状态变化的敏感性。

致谢

Guoqiang Liang 和 Yiqi Lin 获得 NUS Guangzhou Research Translation and Innovation Institute (GRTII)-Affiliated PhD Scholarship Program 的资助。

实验详情

所有动机分析实验均使用随 Cosmos Policy 发布的 RoboCasa 数据集样本。在单信号分析中,作者从不同回合中随机选取 30 个动作块,并比较将这一低维信号注入潜在空间的不同方式。

在多信号打包分析中,作者使用对应的动作块、本体感知状态和值标签构建打包元帧变体,从而在相同的预训练视频扩散模型下评估不同多信号编码方案与数据分布的兼容性。

评估使用五个扩散噪声水平。在每个噪声水平下,采用独立采样的噪声重复去噪五次,并对各次结果取平均。

训练详情与真实机器人设置

RoboCasa 训练

MetaWAM 在 RoboCasa 上训练 12K 个优化步骤,使用四块 NVIDIA H200 GPU 和 1024 的全局批量大小。训练耗时 64 小时实际运行时间。Cosmos-Predict2 基础模型的所有参数均经过完整微调。

策略预测包含 32 个时间步的动作块,并在再次调用策略前执行 16 个时间步。

更多可视化结果

真实世界分布外评估的更多定性结果展示了场景发生中度变化时的运行轨迹,包括物体位置变化、出现额外干扰物,以及背景或布局变化。这些示例补充了真实世界定量评估,展示 MetaWAM 在工作空间发生视觉和空间变化时仍能生成连贯的动作轨迹。

真实世界场景发生分布外变化时的 MetaWAM 运行轨迹

解析式读取与频带监督

在统一策略、世界模型和值函数的设置中,机器人信号可根据任务作为明确条件或预测目标。因此,学习式接口需要具备针对各类信号的编码和解码能力,并支持掩码感知路由。更新接口编码器也会改变呈现给去噪器的潜在目标。

零初始化投影在初始阶段不传递任何信号。相比之下,固定打包和 DCT/iDCT 从训练一开始就提供静态解析映射与读取方式。在所测试的设置中,观察到的优化行为支持这一设计,但这并不意味着学习式接口无法与其他架构或训练流程配合使用。

常见问题

MetaWAM 的设计目标是什么? 它为联合世界动作模型中的机器人信号提供统一的潜在接口,将这些信号打包至单个频域元帧中。

MetaWAM 为什么采用频域打包? 报告中的诊断结果显示,与空间平铺或不连续排列的替代方案相比,冻结去噪器对频域打包潜变量的校正程度更低。

评估使用了哪些基准和任务? 评估涵盖 RoboCasa、LIBERO、LIBERO-Plus 以及三项真实世界 Franka 桌面任务。

作者指出了哪些局限性? 固定频带布局和损失权重可能需要调整;模型性能也会受到语言对齐能力、背景变化和机器人初始状态变化的影响。