视觉-语言-动作(VLA)模型将视觉观测和语言指令映射为机器人动作,在机器人操作任务中展现出强大能力。可靠执行任务还需要判断任务仍在进行、已经成功还是已经失败,以便系统决定继续、停止或进行干预。现有方法会在 VLA 策略内部预测进度、完成状态或失败信号,也有方法借助外部监测模型进行预测。
不过,现有方法存在两项局限。学习并整合这些信号可能需要细粒度的逐帧监督、外部监测模型或复杂的架构设计。此外,预测出的信号通常仅用于监测,其改善动作生成的潜力尚未得到充分探索。
为了在不依赖逐帧进度标注的情况下学习这些信号,Echo 结合成功演示、失败的策略执行轨迹、干预前失败片段和恢复演示。它使用子任务级提示,并配合成功或失败标签。失败轨迹和干预前失败片段分别用于监督终止性失败和可恢复失败,其对应动作则不纳入模仿学习。恢复演示在相应的可恢复失败状态下,将相似的状态监督与纠正动作配对,从而把失败识别与恢复行为联系起来。
为在生成动作时利用已学习的状态信息,Echo 控制停止信号(SS)、失败信号(FS)与机器人动作之间的交互,同时保持信号预测准确且互补。它还引入异步去噪:信号词元的去噪速度快于动作词元,因此后续动作去噪步骤可以依据更准确的状态估计。当策略识别到可恢复失败,且 SS 较低、FS 升高时,这些估计与当前观测可共同引导动作生成,使其采用从恢复演示中学到的纠正行为。
在五项真实世界操作任务上的实验表明,Echo 能够准确预测任务状态,且相比仅生成动作的基线取得更好的表现,在分布外条件下的提升更为明显。组件消融、信号干预和失败数据规模分析进一步考察了状态信号如何影响动作生成,以及不同数据来源对预测和执行的贡献。
Echo 的贡献有三点:一种紧凑的任务状态表示,将停止与失败信号纳入 VLA 动作块,且几乎不增加参数开销;一种监督方案,无需逐帧进度标注,即可从成功、失败和恢复数据中学习这些信号;以及通过受控交互和异步去噪,将状态预测与动作生成耦合起来。
预备知识
采样得到的动作块可能超出当前片段,延伸至后续子任务,或超出整个回合的长度。片段中最后一个有效动作时间步指该片段最后一个有效的动作时间步。填充掩码会标记这一边界之后的位置。
在填充位置,最后一个有效动作目标会被重复。除了排除当前片段之外的动作,填充机制也自然提供了基于边界的信号标签。例如,当片段以任务完成告终时,其填充掩码会标出应预测停止信号的位置。Echo 将该掩码与片段类型结合,在不额外使用逐帧进度标注的情况下构造任务状态信号目标。

实验
实验报告了主要结果,并与现有方法进行比较,以评估 Echo 的任务状态信号准确性及其对任务执行的帮助。随后,实验分析分布内(ID)和分布外(OOD)表现,并对模型组件进行消融。最后,实验直接干预信号以验证其对动作生成的影响,并改变失败数据量,以考察不同数据来源所发挥的作用。
实验设置
除非另有说明,每个模型在每项任务上均评估 30 次试验,使用停止信号和失败信号阈值,以及一个 15-frame 决策窗口(在 0.2-second 推理间隔下为 3 seconds)。结果以均值及标准误报告;F1 分数以百分比表示。评分、标注和结果判定规则详见下文的评估协议。

消融与机制分析
本分析探究 Echo 为何能提升执行表现,以及其学习到的信号在何种情况下最有用。分析比较 ID 和 OOD 条件,对信号—动作架构进行消融,直接干预信号,并改变终止性失败数据的数量。
对于插花和打开抽屉任务,主要结果按 ID 和 OOD 条件分别呈现,每种条件下各进行 15 次试验。Echo 在 OOD 条件下的提升更大;ID 条件下的差异较小,且取决于具体任务。状态预测整体保持稳定:逐帧表现变化不大,而轨迹级表现则在分布偏移下略有下降。
成功演示侧重于常规执行,而恢复演示侧重于调整和纠正。作者假设,分布偏移时,状态信号会引导策略转向后者所体现的行为。信号干预可直接检验这一假设。

结论
Echo 是一个紧凑框架,可在单个 VLA 中联合对动作和任务状态信号进行去噪。它从成功、失败和恢复数据中学习,无需逐帧进度标注,并通过受控交互和异步去噪引导动作生成。在五项真实世界任务上的实验表明,该方法能够准确预测状态并提升任务完成表现,支持将任务状态信号同时用于监测和动作生成。
AI 使用声明
作者使用生成式 AI 工具提升稿件的清晰度、语法和可读性。所有 AI 辅助修改均经作者审阅,最终内容由作者负责。
机器人平台与任务详情
数据采集和策略部署使用一款轮式人形机器人,其配备两条 seven-degree-of-freedom 机械臂、夹爪末端执行器,以及具有 six degrees of freedom 的腰腿机构。任务执行期间,移动底座保持静止。策略通过两条机械臂的末端执行器、夹爪和腰腿机构,总共控制 20 degrees of freedom。视觉观测来自三台 RGB 相机:头部一台,左右手腕各一台。
评估协议与任务评分
每个回合的最高任务得分为 10。成功回合先得 10 分,再根据具体任务扣分。失败回合得 0 分;但在制作糖葫芦任务中,如果插入操作已完成,而山楂在释放后从竹签上掉落,这类失败回合得 5 分作为部分分数。
对于插花和插入钢笔任务,每次接触事件扣 1 分,最多扣 3 分。对于胶囊玩具和打开抽屉任务,每次空抓尝试扣 1 分,最多扣 5 分。
数据采样比例
对于每项任务,训练采样比例分别为成功、失败、干预前失败和恢复数据所对应的比例。
实现、超参数与推理成本
对于包含填充的动作块,两个信号损失权重均设为 1,与正文中的监督规则保持一致。
动机实验的实现
动机实验考察同步去噪过程中,中间动作估计和状态估计如何变化。该实验旨在确定状态信息何时可用,为引入异步调度提供依据。
基线方法对动作、SS 和 FS 进行同步去噪,为三组分配相同的流时间。
基线实现与性能分析
论文在插花任务上比较了仅生成动作的一种不预测停止或失败信号、只预测动作的基线、CycleVLA、VLA-Corrector、Robometer 和 Echo。本节区分原始方法与针对实验设置改编的方法。
基线使用与 Echo 相同的成功和恢复动作监督数据,并匹配优化器设置和训练步数。它不预测 SS 或 FS,因此不为其分配状态指标。实现时,训练数据、模型学习率和优化器等关键设置均与 Echo 保持一致。模型训练了相同的步数,直至收敛。
超参数敏感性
在测试范围内,逐帧表现通常对 SS 阈值比对 FS 阈值更敏感。例如,胶囊玩具任务在 SS 阈值为 0.1 时的表现为 98.1,在阈值为 0.5 时降至 88.3;而在测试的 FS 阈值范围内,表现保持不变。其他任务沿 FS 阈值轴的变化也相对较小,但最佳 SS 阈值因任务而异。因此,单一阈值设置无法让所有任务的逐帧 F1 均达到最高。
与外部监测和规划的兼容性
Echo 让已学习的任务状态信息参与动作生成,从而改进 VLA 策略本身。这一目标与外部监测、恢复和规划模块兼容。根据正文定义的信号语义,SS 和 FS 也可向更高层控制器提供执行状态信息。
外部控制器可以将这些信号与更广泛的时间上下文或额外观测结合,用于确认任务是否完成、请求干预或重新规划。Echo 提供策略内部的状态估计和纠正动作生成,而外部模块则加入自身的决策逻辑。这种兼容性体现在架构层面;特定组合系统能否提升表现,仍需单独评估。
仿真实验
真实世界实验还辅以一项基于 LIBERO 和 LIBERO-Recovery 的三类仿真研究。该研究使用模拟器的成功判定,评估从恢复状态完成任务的能力和任务状态预测表现。
常见问题
Echo 除机器人动作外还预测什么? Echo 预测表示任务状态的停止和失败信号。
Echo 使用什么数据学习任务状态信号? 它结合成功演示、失败的策略执行轨迹、干预前失败片段和恢复演示。
Echo 如何在动作生成时使用任务状态信号? 它控制状态信号与动作之间的交互,并更快地对信号词元进行去噪,使后续动作去噪步骤能够利用更准确的状态估计。
真实世界实验使用了什么机器人和任务? 实验在五项真实世界操作任务中使用了底座固定的轮式人形机器人,该机器人配备两条手臂和三台 RGB 相机。
