分布外检测
对于视觉-语言-动作模型（VLA）而言，这两类方法都存在局限：基于密度的检测器会记住训练任务的分布，而有监督检测器需要分布外标签，并且难以迁移到不同扰动条件下。为此，我们采用任务进度——一种策略内在的特征——作为经过校准的分布外信号。该方法无需分布外监督，并将失败检测与模型自身对任务完成度的表征联系起来。
进度特征
任务进度非常适合用于运行时监控，因为它具备多项理想属性：在专家轨迹中单调递减，因此在分布内表现可预测；可以从离线数据中轻松标注；当进度停滞时，能够及时标记分布外状态；并且可以跨任务泛化。
通过进度特征进行分布外检测
我们发现，进度信号能够有力地指示策略何时偏离分布。基于这一发现，我们利用探针解码出的进度特征，设计了一种标记分布外行为的方法。
进度偏差指标用于比较预测进度与实际进度。
当进度偏差首次超过选定的检测阈值时，我们便将该次运行标记为分布外。
尽管流程简单，它仅凭探针就能检测进度停滞。只要检测阈值已知或易于估计，该方法便与任务无关，且无需分布外标签。
讨论与局限
任务进度可以从策略的激活值中线性读取，它源自大规模机器人预训练，支持无监督分布外检测器，并且会随语言反事实条件而变化。该特征无法被操控，揭示了策略所表征的内容与其实际据此采取的行动之间仍存在鸿沟。
我们的工作有多个自然的延伸方向，包括评估不同视觉-语言-动作骨干网络中的进度可解码性，在真实机器人运行轨迹上验证分布外检测器，以及探索超越标量进度、更丰富的任务条件信号。研究表明，能够线性读取的语义特征可以成为监控已部署视觉运动策略的轻量级工具，并补充日益应用于视觉-语言-动作模型的、更为复杂的可解释性工具集。
模型与数据集
我们在 VLABench 上开展了全部实验。该模拟器提供了一个包含 10 项主要任务的基础数据集：
- 添加调味料： 拿起目标调味料，将其倒在菜肴上。
- 选择水果： 拿起目标水果，将其放到盘子里。
- 选择饮料： 从冰箱中拿起目标饮料。
- 插入花朵： 拿起目标花朵，将其插入花瓶。
- 选择扑克牌： 从桌上拿起目标扑克牌。
- 选择麻将牌： 从桌上拿起目标麻将牌。
- 选择书籍： 将目标书籍从书架上抽出。
- 选择化学试管： 触碰化学试管架中的目标试管。
- 选择玩具： 拿起目标玩具，将其放入盒子中。
- 选择画作： 按下目标画作对应的按钮。
数据集包含 5,000 条轨迹，每项任务 500 条；不同场景中的提示词和物体各不相同，以保持数据多样性。
可解码性与可操控性：对比可观测性与可控性
特征可观测性被定义为：存在某个映射，能够接收一个嵌入并输出相应特征。
弱可解码性
相比之下，我们仅使用线性映射来衡量可解码性。这要求特征能够从表征中线性恢复，比可观测性提供了更严格的标准。由于我们的目标是降低风险，我们还放宽了可观测性中的相等要求：映射不必精确复现特征，只需以较低误差将其恢复出来。因此，我们追求的是较高相关性，而非完全相等。
即使特征无法从表征中被精确恢复，只要能够以较低误差线性解码，它仍然有助于解释和控制模型。
特征可控性被定义为：通过注入修改后的激活值，使某个映射能够将特征传播到激活值中的能力。
我们不再采用这一定义，因为它只检查特征能否传播，却没有：
- 评估给定输入时特征的质量。
- 要求该特征引起模型行为变化。
强可解码性
如果扰动某个特征的输入，能够推动其输出趋向这些输入所蕴含的真实值，我们就称该特征具有强可解码性。这一条件更为严格，因为它允许解释者规定特征应如何依赖输入。例如，可以要求任务进度同时追踪指令和轨迹时间，从而为特征设定更自然的约束。
可操控性
如果扰动某个特征后产生的新特征值，能够诱发模型在对应真实输入下本应给出的相同响应，则称该特征具有可操控性。由于对特征的扰动能够复现该数值作为真实特征时模型应有的响应，这就在特征与模型行为之间建立了一种因果关系。
这些不同定义共同为特征控制提出了更强、更多样的条件，通过同时检验特征的稳健性与因果性，推动了可解释性与控制研究的发展。
常见问题
为什么任务进度适合用于运行时监控？ 它在专家轨迹中单调递减，可以从离线数据中标注，能够标记进度停滞，并且可以跨任务泛化。
进度特征如何支持分布外检测？ 当预测进度与实际进度之间的偏差首次超过选定阈值时，该次运行就会被标记为分布外。
VLABench 数据集包含哪些任务？ 数据集包含 10 项任务，涉及调味料、水果、饮料、花朵、扑克牌、麻将牌、书籍、化学试管、玩具和画作。
强可解码性与弱可解码性有何不同？ 弱可解码性评估的是通过线性映射以低误差恢复特征的能力，而强可解码性要求扰动输入，使输出趋向这些输入所蕴含的真实值。