据我们所知，T3R 是首个无需训练、可在进入解码器前剪除 85% 场景相机令牌的方法，同时在 LIBERO-Spatial 上的成功率与未剪枝基线相差不超过 1 个百分点。无需重新训练，外部语义定位与注意力修复即可使每个解码器层受益。
相关工作
方法定位
据我们所知，T3R 是首个无需训练、可在进入解码器前剪除 85% 场景相机令牌的方法，同时在 LIBERO-Spatial 上的成功率与未剪枝基线相差不超过 1 个百分点。无需重新训练，外部语义定位与注意力修复即可使每个解码器层受益。
方法
T3R 采用两阶段流程：首先通过分割引导的令牌剪枝移除空间冗余令牌，随后通过显著性引导的注意力偏置，强化对剩余重要令牌的关注。
显著性引导的注意力偏置
剪枝不可避免地会移除场景信息。为减轻任务相关信号的损失，T3R 在缩减后的序列中引导注意力转向显著的指令令牌和保留下来的任务相关图像块。
注入注意力偏置。 将归因信号作为偏置加到中间解码器层的注意力 logits 中。
实验
实验检验了三个假设：(H1) 分割引导的剪枝能大幅减少场景相机令牌，同时保持成功率；(H2) 令牌数量减少会降低推理成本；(H3) 完整的 T3R 流程能提升对分布外物体摆放变化的稳健性。实验还考察了跨骨干网络泛化能力和传感器冗余。
大多数视觉令牌都无关紧要
对于每个解码器层，将每个动作令牌查询对所有视觉键的注意力权重求和。每个令牌所占份额以总量的百分比表示，并在 32 层、10 个 LIBERO-Spatial 任务以及每个任务的 3 个时间步上取平均。
总计 93.9% 的视觉令牌各自获得的动作查询注意力低于 0.2%。在较后的层（24–31）中，50–75% 的令牌低于 0.1%。这表明大多数令牌几乎不起作用，但要在解码器前安全地移除令牌，仍取决于能否妥善选出要保留的令牌。
泛化能力与传感器冗余
为检验 T3R 的优势能否迁移到不同骨干网络和传感器配置，研究将其移植到 SIMPLER 上的 CogACT（使用单个第三人称摄像头），以及 RoboTwin 上的提供文本中缺失了名称的另一个模型（使用三个摄像头）。两项评估均为零样本，没有经过微调的检查点，因此绝对成功率较低；关注重点是在相同预算下，相对于未剪枝基线和其他剪枝方法的表现。
单摄像头（CogACT / SIMPLER）。 在 SIMPLER Google-Robot 套件（11 个任务，每种方法 189 个回合）和 WidowX/Bridge 套件（4 个任务，每种方法 96 个回合）上评估 CogACT，每个套件均使用一个第三人称视角。在 60% 的保留比例下，T3R 在 Bridge 上与基线持平，在 Google-Robot 上则落后 5.5 个百分点；保留更多令牌的方法（ADP、FastV）表现更好。只有一个视角时，跨传感器冗余很少，因此激进剪枝会移除策略仍然需要的令牌。
结论。 在所评估的骨干网络和基准测试中，T3R 在多摄像头场景下展现出更大的剪枝空间。这一跨系统趋势表明，重叠的视觉证据为减少令牌提供了机会。
消融实验
在 LIBERO-Spatial 上（10 个任务 × 10 个回合）分别评估各组件。仅剪枝在场景相机令牌减少 85% 时达到 90%，仅偏置达到 98%，完整 T3R 达到 96%，基线为 97%。偏置弥补了剪枝造成的 6 个百分点损失；仅偏置的表现超过基线，说明未剪枝时注意力较为分散。
在仅偏置的层级扫描中，不进行剪枝时，中间层偏置（第 8–23 层）达到 98%，高于早期层的 95%、后期层的 92% 和所有层的 93%。这与早期特征失真和后期输出受扰的情况相符。
T3R 为何优于以往的剪枝方法。 T3R 在全部 32 个解码器层之前完成剪枝，保留约 37 个场景令牌；而 TeamVLA 在第 0–15 层中始终携带 512 个令牌，使无关上下文在合并前进入表征。分割能保留连贯的物体区域和 RoPE 几何结构，而不是彼此分散的相似性采样；随后由 IG 引导的注意力修复抵消剪枝损失。
超参数稳健性。 同一组超参数适用于全部 10 个 LIBERO-Spatial 任务和全部四个套件，无需针对每个任务单独调参。调整偏置强度、激活层、显著性 top-k 和剪枝阈值，会使成功率变化 1–6 个百分点。DBSCAN 的 ε 和 SAM 点数则遵循固定的图像块网格几何结构。
失败分析与局限性
所有评估均在仿真中进行；实体机器人控制，以及存在真实传感器和执行延迟时的异步执行，尚未得到验证。硬件性能分析仅使用 NVIDIA L40S，未测量能耗，也未在边缘设备上进行测试。因此，仅凭延迟改善无法证明能耗降低或边缘设备性能提升。
遮挡和光照变化可能导致分割效果下降，进而丢弃任务相关图像块。这些因素对任务成功率的影响尚未单独分析，也尚未比较其他分割器。
常见问题
T3R 剪除了多少内容？ 它在进入解码器前剪除 85% 的场景相机令牌，同时在 LIBERO-Spatial 上将成功率保持在与未剪枝基线相差不超过 1 个百分点的范围内。
T3R 分为哪两个阶段？ 先通过分割引导的令牌剪枝移除空间冗余令牌，再对剩余令牌进行显著性引导的注意力偏置。
T3R 在单摄像头场景下表现如何？ 在 60% 的保留比例下，它在 Bridge 上与基线持平，在 Google-Robot 上落后 5.5 个百分点。
T3R 是否已在实体机器人上验证？ 尚未。评估均在仿真中进行，实体机器人控制以及真实传感器和执行延迟尚未得到验证。