FreqFM 是一种面向视觉-语言-动作(VLA)机器人的频率条件流匹配方法,能够让动作生成显式感知快速和缓慢的运动模式。它利用频率统计信息重新设计模型的源分布、训练目标和推理引导,在不改变 VLA 主干网络的前提下,相比配对的时间序列基线,在 LIBERO、LIBERO-Plus、VLA-Arena 以及六项真实机器人任务中都取得了更好的表现。
目录
研究人员构建了什么?
研究人员构建了 FreqFM——一种面向 VLA 模型的流匹配动作生成框架。VLA 系统将视觉观测、语言指令和机器人动作结合起来。FreqFM 不再只按原始时间顺序预测每个动作,而是进一步用频率成分表示整段动作序列。
该方法在动作时间跨度上应用离散余弦变换(DCT)。DCT 会把有限序列转换为一组系数,用于描述整体运动趋势以及更快速的变化。简单来说,低频成分捕捉伸手、扫掠等渐进式运动,高频成分则描述快速调整、纠偏或振动。
FreqFM 从训练动作中估计功率谱。对于每个机器人控制维度——例如关节、夹爪通道或笛卡尔运动坐标——功率谱记录了各个频率上的运动能量分布。这些统计信息随后会在整个流匹配流程中作为显式条件信号使用。
该框架改动了三个阶段:初始源样本的构造方式、训练目标对不同运动成分的加权方式,以及推理时条件引导的分配方式。它被设计成现有 VLA 主干网络的附加模块,而不是替代视觉或语言模型。

FreqFM 取得了什么结果?
研究人员在 LIBERO 和 LIBERO-Plus 仿真基准、VLA-Arena 基准以及六项真实机器人任务上,将 FreqFM 与配对的时间序列流匹配基线进行了比较。论文给出的结论在这些环境中基本一致:显式引入频率信息能够在不改变底层 VLA 架构的情况下,取得优于时间序列基线的表现。
这一比较之所以重要,是因为基线本身已经使用了流匹配。因此,性能提升来自动作轨迹的表示和控制方式,而不是换用了完全不同的策略模型。FreqFM 也保留了同类基于输运的生成流程,因此对于已经在尝试使用流匹配动作专家的团队而言,这一结果具有直接参考价值。
现有论文文本指出,该方法在上述基准和真实机器人任务中,相比基线最高提升了一个由公式定义的分数。但所提供的文本摘录没有给出这一最大增益的具体数值,因此无法负责任地报告精确的分差。文本明确说明,评估包含六项真实机器人任务,这为仿真之外的效果提供了证据。
VLA-Arena 还揭示了一个重要的权衡:在 Extrapolation 任务上,FreqFM 的表现有所下降。这类任务中的动作统计与训练频谱最不匹配。该结果同时说明了数据集级频率假设的价值与风险。
频率条件流匹配如何工作?
流匹配学习的是一个连续输运过程。它从一个通常代表简单分布的源样本出发,学习一个速度场,将该样本逐步移动到示范动作块。在推理阶段,普通微分方程沿着学习到的速度场演化,最终生成机器人的动作序列。
FreqFM 通过三个相互关联的步骤改造了这一过程:
- 感知频率的源分布构造:训练动作首先经过 DCT 变换,然后估计每个频率、每个控制维度的功率谱。随后,初始源分布采用随频率变化的方差,而不是假设所有时间模式都同样可能。这样一来,在输运开始前,源分布就更接近目标动作的统计特征,并缩小源分布与目标分布之间的协方差差异。
- 感知频率的训练目标:输运目标在频率坐标中表达,使模型能够按照各个运动成分自身的尺度进行学习。该框架为每个频率推导出一个参考输运尺度。在线性输运路径上,某一频率处目标速度的二阶矩等于该频率动作功率的两倍,从而将训练信号直接与观测到的运动能量联系起来。
- 感知频率的推理引导:条件引导帮助生成的轨迹遵循视觉场景和语言指令。FreqFM 不再为整段动作序列使用一个不加区分的引导预算,而是按频率分配引导残差。这样,推理过程便拥有了一个有原则的尺度,用于在遵循条件与数据集学习到的动作统计之间进行权衡。
DCT 的重要性在于,它为有限动作块提供了固定且易于解释的基底。在原始表示中需要对许多时间步进行密集交互的频率选择操作,经过变换后可以简化为一组紧凑的逐频率操作。因此,同一套频谱可以同时指导源采样、优化和推理。
FreqFM 为什么对机器人技术重要?
机器人的动作并非在所有时间尺度上都同样困难。机械臂可能需要先完成缓慢而协调的伸手动作,随后进行快速的腕部修正和精确的夹爪运动。如果模型把整条轨迹视为一段不加区分的时间序列,它当然可以学习其中的关系,但无法显式控制应当让哪些运动尺度获得更多关注、方差或引导。
FreqFM 为这一问题提供了一个工程层面的调节手段。频率统计信息有助于在生成过程中保持大尺度运动的平滑性,同时处理更快速的修正动作。这种区分对于操作、移动操作和仓储任务都很有意义,因为轨迹平滑度会影响抓取成功率、载荷稳定性、设备磨损和安全性。
该方法还降低了集成成本,因为 VLA 主干网络无需改变。对于评估仓储机器人或待售二手机器人协作臂的团队而言,频率条件动作生成可以被视为策略层面的改进,而不必更换硬件。
最具实际意义的信号,是它在仿真之外的评估结果:在六项真实机器人任务中,FreqFM 都优于配对的时间序列基线。不过,Extrapolation 任务的结果也表明,只有在部署动作与训练分布相似时,感知频率的控制方式才能发挥最佳效果。
还有哪些局限?
FreqFM 依赖固定的、从训练集层面统计得到的频谱信息。其源分布和引导预算不会直接根据当前摄像头观测、语言指令或任务上下文进行调整。这种设计简化了方法,但当任务要求的运动模式与训练数据存在较大差异时,可能会损害性能。
VLA-Arena 中 Extrapolation 任务的性能下降就是最明显的例子。对于动作统计最不可能匹配已学习频谱的任务,FreqFM 受到的影响也最为明显。这说明数据集平均值无法代表所有部署条件。
此外,该方法要求针对每种机器人本体预先指定平滑动作维度。这会增加准备工作,也使跨机器人迁移不够自动化。现有结果证明了 FreqFM 在所报告任务上的收益,但尚不能说明它在多种机器人形态、高度不连续的动作或快速变化的控制模式下会有怎样的表现。
关于 FreqFM,最常见的问题有哪些?
FreqFM 解决什么问题?
它为 VLA 动作生成提供了快速和缓慢运动模式的显式表示,而不是让频率结构隐含在时域处理之中。
FreqFM 需要新的 VLA 主干网络吗?
不需要。该框架只对流匹配动作专家施加条件约束,底层 VLA 主干网络保持不变。
DCT 在该方法中起什么作用?
离散余弦变换会把动作序列转换为描述不同运动尺度的频率成分,使这些成分能够用于建模和推理控制。
FreqFM 在哪里表现不佳?
当部署动作与训练集频谱不匹配时,它的表现会下降;论文报告的 Extrapolation 任务退化正是这一局限的体现。
结论是什么?
FreqFM 将动作频率转化为 VLA 流匹配中的一个显式建模维度。它通过感知频谱的源分布构造、训练目标和推理引导,在多个基准以及六项真实机器人任务上提升了时间序列基线的表现;但固定频谱的设计仍然容易受到分布偏移的影响。
哪些机器人任务最能受益于感知频率的动作生成?
