我们提出 ContactGuard:一种接触前抓取监测器,能够在夹爪闭合之前,预测即将执行的抓取是否可能失败。它将 JEPA 风格的潜在世界模型与冻结的线性失败探针相结合。世界模型利用无标注机器人轨迹进行训练,预测动作条件下的未来潜变量;失败探针则利用规模更小的带标注抓取数据集进行训练,对预测得到的接触后潜变量进行评分。在部署时,冻结的模型和探针与视觉运动策略并行运行;如果预测当前计划执行的动作块将会失败,系统便中止执行。
我们首先定义世界模型和探针所需的数据,随后介绍 LeWM 风格的潜变量预测器、多视角架构、失败探针,以及在线接触前监测器。
问题设定与数据
ContactGuard 将无标注的潜在动力学学习与小数据量的结果监督分开处理。世界模型数据集由机器人轨迹组成,其中固定摄像机拍摄的同步观测与关节空间动作配对。世界模型训练过程中不使用抓取成功标签。

背景:LeWM 风格的潜变量预测
该预测器是一个因果 Transformer,通过 AdaLN-zero 调制接收动作条件。它采用下一嵌入回归进行训练,并使用 SIGReg 防坍缩正则项,鼓励潜变量分布在随机投影下匹配标准高斯分布。
我们复用这一编码器—预测器接口,同时针对多视角观测、与动作对齐的预测窗口,以及下游的接触前失败读出任务进行了调整。
实验结果
我们将 ContactGuard 应用于抓取闭合这一典型的短时域即将接触事件。该任务面临复杂的视觉几何、遮挡、物体差异,以及严格的夹爪闭合前实时预算。我们在四种抓取设置下进行评估,并以 ACT 作为底层分块式视觉运动策略。所有指标均评估预测器在触发后的接触前状态所作出的决策,而不是评估触发本身或中止后的恢复过程。
我们的实验围绕四个问题展开:
预测质量
与单视角世界模型、当前状态监测方法和成熟的运行时失败检测器相比,预测得到的未来潜变量能否更好地预判执行结果?
信息来源
这一信号是否来自对具体待执行动作后果的想象,而不是当前观测、视觉捷径或泛化的运动线索?
机器人状态融合
加入本体感知状态后,是否能改善与抓取相关的潜变量预测?
运行时性能
在夹爪闭合前的接触窗口内,预测速度是否足够快?
闭环抓取结果预测
闭环指标来自在线运行的真实轨迹;世界模型、探针和各任务对应的阈值均在实验前固定。后续所有诊断表格均使用留出的离线回放数据划分。
多视角与单视角对比
在四项任务中,多视角融合的平衡准确率和 AUC 均优于单视角 LeWM 基线。Towel 上的提升最大,因为夹爪与布料的接触区域经常会被任一单一视角遮挡;Box 上的提升最小,因为单视角基线本身已经很强。
Pencil 的绝对 AUC 是我们模型中最低的,这与训练轨迹仅覆盖较窄范围的抓取姿态相符,因此额外视角几乎没有带来进一步提升空间。

结论、局限性与未来工作
我们提出了 ContactGuard,一种面向接触前操作的实时、与策略解耦的预测式验证器。一个独立训练的动作条件潜在世界模型,会评估一个原本保持不变的视觉运动策略所提出的具体动作块,并利用轻量级失败探针对其预测的接触后结果进行评分。
在四种真实世界抓取设置中,ContactGuard 的表现优于匹配的当前状态监测方法以及所测试的外部运行时失败检测器。在保持观测不变、仅替换待执行动作的情况下,预测失败概率也会显著变化,这证明监测器响应的是即将执行的动作,而不仅仅是静态视觉风险。
这些结果表明,基于动作条件的潜变量想象可以成为一种实用基础,用于在发生改变场景的接触之前,否决可能失败的动作。
局限性
ContactGuard 通过放弃执行来避免失败,但无法从失败中恢复,也不能在中止后继续完成任务。中止后的任务完成需要外部恢复模块,这部分工作留待未来研究。
ContactGuard 面向结果能够在下一个动作块内确定的即将接触事件;若要将其扩展到更长时域的技能,就需要分层监测或重复进行事件级监测。
未来工作
未来可以在中止后重新闭环:选择新的动作块、基于未改变的场景重新规划,或将监测器与 Diffusion、Flow Matching 或 Streaming 等多样本策略结合起来。
常见问题
ContactGuard 预测什么? 它会在夹爪闭合之前,预测即将执行的抓取是否可能失败。
潜在世界模型如何训练? 它利用无标注机器人轨迹进行训练,在不使用抓取成功标签的情况下预测动作条件下的未来潜变量。
如果系统预测计划中的抓取会失败,会发生什么? 监测器会中止计划动作块的执行。
ContactGuard 能在中止后恢复吗? 不能。中止后的任务完成需要外部恢复模块。
