在机器人学中，扩展测试时计算并非免费：在分层堆栈中，规划器被反复调用，因此链式思维推理、更大模型或更密集记忆历史带来的单次调用成本会累积并成倍增加基础模型延迟。统一削减计算虽可缓解延迟，但会增加困难任务失败的风险。为此，我们研究了三个维度——推理深度、模型大小和记忆历史——上计算的实际收益，从而推动我们的框架设计。
理解计算分配问题
在具身规划中，机器人必须在部署过程中决定何时何地分配额外计算。与语言建模或游戏等静态领域不同，机器人技术强加实时约束：每次规划调用都消耗时间和能量，且规划器在整个任务中被多次调用。统一增加计算可提升困难场景的性能，但在简单场景上浪费资源；而统一减少计算可节省资源，但在挑战性边缘情况下可能导致失败。核心问题在于，选择性分配——仅在能带来可衡量收益的地方应用更多计算——是否能提升整体效率和可靠性。
测试时计算的三个维度
本文研究了具身规划器中测试时计算可扩展的三个不同维度。首先，推理深度指模型在确定动作前生成的步骤或标记数量——更长的链式思维推理可能产生更好的规划，但会增加延迟。其次，模型大小反映底层神经网络的容量；通常更大的模型性能更好，但更慢且更昂贵。第三，记忆历史涉及智能体过去经验的保留和使用量，更密集的历史在部分可观测环境中提供更多上下文，但处理时间增加。理解这些维度之间的相互作用对于设计高效的具身规划系统至关重要。
DIRECT框架
为系统研究测试时计算在何处收益最大，作者提出了DIRECT框架，该框架评估针对单个规划查询沿每个维度增加计算的边际收益。该方法通过测量规划器获得更多计算时性能提升程度，然后学习何时调用更高成本的变体。关键见解在于，并非所有查询都能从额外计算中同等受益：有些查询仅需极少资源即可解决，而另一些则需要更大模型或更深推理的全部能力。通过将每个查询路由到最合适的计算级别，该框架旨在实现资源分配与任务难度的匹配。
跨维度的实证发现
实验结果揭示了几种模式。对于推理深度，较长的链式思维推理在简单导航和操作任务上收益递减，但在复杂多步任务中仍然有价值。更大的模型始终优于更小的模型，但性能差距集中在需要空间推理或精确几何理解的任务上。记忆历史显示出混合特征：更密集的历史在部分可观测环境中有帮助，但在完全可观测环境中增加了开销而无收益。关键的是，沿不同维度扩展的收益并非独立——在最难的任务上，结合更深推理与更大模型可产生超线性收益。
对机器人技术的实际意义
这些发现对机器人系统设计有直接启示。工程师无需部署单一固定大小的规划器，而是可以构建自适应系统，根据任务难度动态分配计算。例如，简单的抓取放置操作可使用小模型和浅层推理，而复杂装配任务则触发更大模型和更深链式思维处理。DIRECT框架提供了一种原则性方法来识别这些阈值并构建路由逻辑。在物理机器人硬件上，这种自适应方法相比均匀高计算基线，在保持可接受延迟的同时提高了任务完成率。
常见问题
测试时计算与训练时计算在机器人技术中有何不同？ 测试时计算指机器人实时决策部署中使用的资源，而训练时计算用于模型开发和优化。在机器人技术中，测试时计算受延迟和能耗预算约束更严格。
哪个计算扩展维度在任务中提供最一致的收益？ 模型大小在多样化任务中表现出一致的性能提升，尽管存在收益递减。更深推理和更密集记忆的收益更依赖具体任务。
DIRECT框架能否应用于任何具身规划器？ 该框架设计为规划器无关，可应用于任何规划器被反复调用的分层具身系统，但具体计算阈值可能需要针对每个领域进行调优。
自适应计算分配是否会显著增加系统复杂度？ 虽然增加了路由组件，但与避免简单任务不必要计算和防止困难任务失败带来的潜在节省相比，开销极小。