我们在具有代表性的视觉-语言-动作（VLA）设计范式下研究这一问题。ORION 等架构正采用了这一范式，其结构使得在轨迹空间的 logit lens 下，这一问题尤为清晰。模型将完整规划压缩进一个称为“规划令牌”的隐藏状态，再由生成式规划器将其解码为未来路径点。由于这个向量是语言推理与动作之间唯一的接口，我们可以准确追踪：沿着解码器逐层深入，规划器所需的信息究竟在何时变得可用。
我们从每个中间层读取规划令牌，并使用模型原生的规划器对其进行解码，再为所得轨迹评分。这相当于轨迹空间版本的 logit lens。我们不测量某一层借助训练好的读取器能够编码什么，而是考察模型自身的下游模块如何理解每一层的输出。同时，我们还使用线性探针读取离散的导航意图。
实验结果表明，语义意图与原生规划器兼容性沿深度方向遵循不同的形成轨迹。导航指令从第一个解码器模块开始就可以通过线性方式解码，并在整个网络中始终保持很高的可解码性，尽管模型从未在文本输入中获得该指令。相比之下，同一个中间规划令牌会逐步变得更适配冻结的原生规划器，直到最终隐藏状态才达到最低的轨迹误差。经过学习的第 1 层读取器能够弥合其中相当一部分差距，这说明冻结规划器曲线应被理解为一种表示兼容性指标，而不是几何信息首次出现的时刻。我们还将分析扩展到 Bench2Drive 的五类能力，结果显示规划器兼容性的提升过程具有一致性。
这一逐层诊断也促成了一项裁剪实验：即使某些层单独使用原生规划器解码时表现不佳，只要它们对规划令牌造成的旋转很小，也可能被移除。我们按照各层对规划令牌造成的角度偏差对其排序，并据此裁剪解码器，绘制准确率—延迟前沿；延迟则依据物理缩短后的解码器实测墙钟时间计算。同时，我们按能力类别拆解误差。在当前评估样本规模下，尚未能在统计意义上确认针对特定类别的性能下降。
贡献
- 提出一种轨迹空间中的原生头部视角，用于衡量中间规划令牌表示如何逐步适配部署中的冻结规划器，同时结合导航意图的线性探针进行分析。
- 针对五类 Bench2Drive 能力开展逐层分析，展示了导航指令早期即可线性解码，以及在所评估的 ORION 检查点中规划器兼容性持续提升的稳定规律。
- 开展规划令牌裁剪研究，表明规划令牌输入与输出之间的余弦相似度比单独的中间层解码质量更适合作为移除标准：在开环误差相对增加约 5% 的范围内，可以移除 32 层中的 8 层，并实现实测的1.33 倍解码器加速。
意图与规划器兼容性如何形成
规划令牌携带两类信息，而这两类信息在不同深度逐渐变得可用。在隐藏状态 0 处，追加的规划令牌仍未包含上下文信息，因此指令探针的表现处于随机水平。经过第一个解码器模块后，准确率升至 97.7%，最高达到 98.6%。由于提示中并未提供该指令，这表明在规划令牌与多模态上下文交互之后，与指令相关的结构便已可通过线性方式提取。
常见问题
什么是规划令牌？ 规划令牌是一个单独的隐藏状态，模型将完整规划压缩其中，随后由生成式规划器将其解码为未来路径点。
如何衡量中间层的规划器兼容性？ 我们从每个中间层读取规划令牌，并使用模型原生规划器对其解码，然后为所得轨迹评分。
导航意图何时可以通过线性方式解码？ 经过第一个解码器模块后即可进行线性解码，此时准确率升至 97.7%，之后最高达到 98.6%。
裁剪研究中可以移除多少个解码器层？ 在开环误差相对增加约 5% 的范围内，可以移除 32 层中的 8 层，并实现实测的1.33 倍解码器加速。