一个两阶段训练框架在视觉-语言-动作(VLA)训练之前引入了专门的先验动作学习阶段。通过仅对无条件的动作轨迹训练基于流匹配的编码器-解码器动作模块,我们在动作头遇到视觉语言输入之前赋予其动作分布的结构化知识。一种早期的潜在对齐蒸馏策略通过将视觉语言模型锚定到学习的动作嵌入空间进一步加速了跨模态收敛。在13个跨实体任务上的实验验证了所提出方法能实现更快的收敛、更高的成功率和有效的历史压缩,且成本忽略不计。我们进一步证明,丰富第一阶段数据能产生更强的动作先验,并直接迁移到改进的下游VLA性能,证实了所提出框架的可扩展性。
动作先验学习
总体而言,这些方法表明潜在动作或动力学表示可以改进机器人策略学习。然而,它们大多从视觉数据、未来状态预测或视觉-动作策略学习开始。我们的设置则直接使用机器人动作轨迹,无需视觉观察或语言指令。这隔离了物理运动的内在统计特征,并保持了学习阶段的轻量性。

训练动态与优化稳定性分析
除了最终成功率和部署行为,我们进一步研究了动作先验学习如何改变VLA训练的早期优化过程。关键问题是第一阶段的动作先验学习是否能减轻第二阶段VLA训练的负担,其中模型必须将视觉语言特征与连续动作生成对齐。实验比较了三种变体在相同数据、超参数和VLM骨干下的前3000个第二训练步骤,隔离了动作先验初始化和历史调节的影响。
稳定初始化。 无先验模型从一个校准不良的动作模块开始,并遭受大得多的初始预测损失。相比之下,基于先验的变体从一个已经建模可行运动的解码器开始,将初始损失减少了近显著幅度,并更早达到低损失。这表明第一阶段在跨模态对齐开始之前处理了低层次的动作校准。因此,第二阶段可以更少关注从头发现有效运动模式,更多关注将这些模式适应视觉语言条件。
更平滑的梯度。 随机动作初始化也产生大的和重复的梯度尖峰,而学习的解码器从开始就保持梯度小而稳定。这一点很重要,因为稳定的动作梯度减少了与VLM骨干中已有有用表示的干扰。
更快的验证收敛。 MAE曲线证实增益不仅限于训练损失。基于先验的变体更早达到相同的验证误差,表明学习的动作先验也作为跨模态策略学习的优化先验。历史变体在初始瞬态后进一步达到最低MAE,与其更强的下游性能一致。

结论
我们提出了一个两阶段训练框架,在VLA训练之前引入专门的先验动作学习阶段。通过仅对无条件的动作轨迹训练基于流匹配的编码器-解码器动作模块,我们在动作头遇到视觉语言输入之前赋予其动作分布的结构化知识。一种早期的潜在对齐蒸馏策略通过将视觉语言模型锚定到学习的动作嵌入空间进一步加速了跨模态收敛。在13个跨实体任务上的实验验证了所提出方法能实现更快的收敛、更高的成功率和有效的历史压缩,且成本忽略不计。我们进一步证明,丰富第一阶段数据能产生更强的动作先验,并直接迁移到改进的下游VLA性能,证实了所提出框架的可扩展性。
常见问题
什么是动作先验学习?它与其他方法有何不同? 动作先验学习仅用机器人动作轨迹训练一个模块,而不使用视觉数据或语言指令。这隔离了物理运动的统计特征,与从视觉观察开始的方法相比保持了学习阶段的轻量性。
两阶段训练框架如何改进VLA策略学习? 第一阶段在第二阶段跨模态训练开始之前校准动作解码器于运动模式。这提供了稳定的初始化、更平滑的梯度和更快的验证收敛,减少了从头学习动作生成的负担。
丰富第一阶段数据是否改进下游性能? 是的,实验证实,在动作先验学习阶段添加更多动作数据会产生更强的先验,并直接迁移到完整VLA模型中更高的成功率。
历史调节在该框架中的作用是什么? 动作先验模块的历史变体在初始训练后达到最低验证误差,并展现出更强的下游性能,表明对动作序列中的时间上下文进行建模提供了额外的好处。
