Chronos Policy 在策略中明确表示观测和动作的时序。每条观测都关联其采集时刻,每个预测动作则关联其预期执行时刻。该策略采用带时间感知 RoPE 的扩散 Transformer,通过注意力机制引入时间信息,同时保持令牌嵌入不变。训练期间,观测与动作的时序也会变化,同时保留各自的时间戳,使策略学会解读部署时可能遇到的时序变化。
方法
基于物理时间的策略形式化
设观测在各自对应的时刻采集。在给定请求时刻,策略会查询一个指定步数的动作块:该动作块在经过一段延迟后开始,并以指定的动作间隔持续执行。
这种形式化方式明确呈现了时序信息。观测间隔反映观测频率;观测时刻与动作时刻之间的间隔反映测量延迟和执行延迟;动作间隔则规定了期望的执行频率。对于多模态传感,各模态保留各自的采集时刻,而非对齐到统一的采样网格。
在策略中编码物理时间
策略输入包含明确时间戳后,时间信息可以通过不同方式进入网络。一种方式是编码每个时间戳,并将其直接加到对应的令牌嵌入中,使时间改变令牌表示。另一种方式是保持令牌嵌入不变,仅通过注意力中的位置编码使用时间信息。后者对时间变化的鲁棒性始终更强,因此 Chronos Policy 采用时间感知 RoPE。
每个令牌都被赋予相对于策略请求时刻的物理时间戳。图像块继承其所在帧的采集时刻;本体感知令牌和力/力矩令牌使用各自的测量时刻;动作令牌则使用查询所得的执行时刻。观测时间戳描述测量相对于请求时刻的采集时间,而动作时间戳则按照请求的执行计划位于未来。模态和空间嵌入继续表示令牌内容,物理时间则通过旋转位置编码单独引入。
所有时间戳都以策略请求时刻为基准。对于动作令牌,这意味着推理延迟会使查询的动作时刻移至未来。旋转坐标是相对于该请求时刻的时间戳,因此最终的查询—键交互仅取决于经过的物理时间。
因此,注意力直接取决于经过的物理时间。两条观测即使位于相同的序列位置,只要间隔分别为 20 ms 和 200 ms,其时间关系就会不同。同时,将所有时间戳平移相同的时长,不会改变表示。与直接将时间加到令牌嵌入相比,时间感知 RoPE 将令牌内容与时序分开,同时在注意力中明确呈现成对的时间关系。

实验
实验围绕三个问题展开:时间信息何时有用、时间感知策略的哪些组成部分发挥作用,以及在时序不那么重要的任务中加入时间信息是否会带来负面影响。评估涵盖动态任务(动作取决于环境随时间的变化)、多感官任务(观测之间的时序很重要),以及标准准静态操作任务,用于检验 Chronos Policy 能否在提升部署时应对时序变化的鲁棒性的同时,保持标称性能。
任务与评估设置
评估涵盖三类任务。Conveyor 是一项动态抓取与放置任务,传送带速度随机变化,策略必须考虑物体运动以及从感知到动作执行之间的时间。Pivoting 是一项接触丰富的多感官任务,结合了视觉、本体感知以及以不同频率、在不同时刻采集的力/力矩测量。另有六项标准准静态操作任务,用于检验在时序不那么关键时,显式时间建模能否保持性能。
每个策略都在不同的时序条件下进行评估。标称条件采用训练期间所见的时序。通过改变感知频率和延迟来改变观测时序;通过改变预测动作执行前的延迟来改变推理延迟。组合设置同时改变观测时序和推理延迟,从而更严格地检验策略应对时间错配的鲁棒性。
时间信息何时有用?
在 Conveyor 上,Chronos Policy 将标称成功率从 73.1% 提高到 82.0%。部署时序变化后,两者的差距进一步扩大:在中等程度的观测变化下,Diffusion Policy 的成功率降至 15.6%,而 Chronos Policy 仍达到 77.6%;在推理延迟最高达 200 ms 的情况下,Diffusion Policy 的成功率降至 1.8%,而 Chronos Policy 达到 76.4%。即使在组合扰动下,Chronos Policy 仍保持 32.7% 的成功率,而 Diffusion Policy 则完全失败。
仅靠序列顺序,既不足以在观测间隔变化时判断物体运动,也不足以在执行延迟时确定应提前多少时间采取动作。提供观测和动作时刻,能让策略直接解读这些变化。
怎样才能让策略具备时间感知能力?
实验对 Chronos Policy 的两项设计选择进行了消融:训练期间的时间随机化,以及 Transformer 中物理时间的表示方式。
时间随机化让策略接触部署期间可能出现的更多感知和执行计划。它还使训练能够利用演示数据中的测量值,而这些数据在演示被下采样到固定时间网格时通常会被丢弃。这种额外多样性可以起到数据增强的作用。在 Conveyor 上,仅时间随机化一项,就将 Diffusion Policy 在五种扰动条件下的平均成功率从 6.3% 提高到 26.9%。即使没有时间戳,当相关时序结构相对简单时,让策略接触更多时序变化也能提高鲁棒性。
但同样的策略无法推广到多感官 Pivoting 任务。在该任务中,时间随机化使扰动条件下的平均成功率从 48.4% 降至 21.6%。没有时间戳,策略就无法判断每段采样历史对应的时序:相同的序列位置可能对应不同的物理时间间隔,不同模态的异步测量也会变得难以解读。
明确表示物理时间后,时间随机化便能持续带来收益。它将 Conveyor 扰动条件下的平均成功率从 48.8% 提高到 63.1%,并将 Pivoting 的平均成功率从 33.3% 提高到 55.3%。时间随机化扩展了训练分布,时间戳则让这种变化变得可解读。

时间信息会影响标准准静态操作任务吗?
六项标准准静态操作任务用于检验时序精确性不那么重要的情形。在标称时序下,Chronos Policy 与 Diffusion Policy 的表现相当,表明显式建模时间并未牺牲性能。
当部署时序不同于训练时,优势便显现出来。在五种扰动条件下取平均后,Chronos Policy 的成功率为 73.4%,高于 Diffusion Policy 的 59.7%;在大幅感知变化和组合扰动下,提升最为显著。
总体而言,Chronos Policy 在保持标称性能的同时,显著增强了应对时间错配的鲁棒性。当时序与训练设置接近时,显式时间建模不会牺牲性能;当感知或推理时序发生变化时,它则为策略提供了基线方法所缺少的观测与动作时序信息。
时间感知能否提升真实环境中的鲁棒性?
在评估的三项真实世界任务的所有条件下,Chronos Policy 均取得最高任务得分。其优势在观测扰动、推理延迟以及两者组合的情况下依然存在,表明显式时间的益处并不局限于受控仿真。提升同时体现在移动目标操作和接触丰富操作中,说明同一套物理时间接口能够处理不同来源的时序变化。
RTC 在若干设置中提高了应对推理延迟的鲁棒性。但它并未显式考虑观测时序变化,因此其优势并不能稳定地延伸到感知扰动。Chronos Policy 表示每条观测的采集时刻,以及每个预测动作的预期执行时刻,从而能在同一策略架构中建模感知与执行时序。结果表明,异步执行和显式时间感知分别应对时间错配的不同方面,二者具有互补性。

结论与未来工作
Chronos Policy 通过以观测采集时刻和动作执行时刻为条件,将机器人策略学习建立在物理时间之上。这种形式化方式在单一策略中统一表示感知频率、测量延迟和推理延迟。在仿真和真实机器人上的动态、多感官及标准准静态操作任务中,Chronos Policy 提高了应对时间错配的鲁棒性,同时保持标称性能。
未来的一个研究方向是让 Chronos 策略超越固定动作频率,支持可变控制频率和时间缩放,使机器人能够以快于或慢于演示的速度执行相同行为。
致谢
作者感谢 Stanford REALab 的所有成员提供有益的讨论和反馈。本研究部分由 Knight-Hennessy Fellowship、NSF Graduate Research Fellowships Program (GRFP)、NSF Awards #2143601、#2037101 和 #2132519、Samsung 以及 Stanford HAI Center 资助。文中的观点和结论属于作者,不应被解读为必然代表资助方的官方政策,无论该政策是明示还是默示。
附录:策略架构与评估细节
策略架构与输入表示
Conveyor 和六项标准任务每个摄像头使用两条图像观测,并使用两条本体感知观测。模拟 Pivoting 使用两条图像观测、三条位姿观测,以及 32 条六维力/力矩样本。位姿由位置和 6D 旋转表示。
Pivoting 预测一个 19 维自适应顺应性动作,其中包含标称位姿、虚拟目标位姿和刚度;所有方法使用相同的控制器和动作表示。其他仿真任务使用绝对位姿和夹爪或手部指令。每个策略以 20 Hz 预测 16 个动作。
基线与时间感知变体
基于 Transformer 的基线使用序列位置,不包含观测或动作时间戳。其时间随机化变体采用与 Chronos Policy 相同的随机观测计划和动作起始延迟,但不接收这些时刻对应的物理时间信息。
检查点选择与评估设置
每种策略训练三个随机种子。每五个 epoch 在标称验证设置下评估一次检查点,并选取标称成功率最高的检查点。对于 DexMimicGen 基准测试,每个训练随机种子评估 50 个回合,遵循原论文的评估设置。
对于 Conveyor 和 Pivoting 消融实验,每个选定的训练检查点都使用三个评估随机种子进行评估,每个随机种子和条件运行 50 个回合。结果先针对每个训练随机种子,对三个评估随机种子的结果取平均;随后报告三个训练随机种子的均值和样本标准差。因此,每种方法在每个条件下总计评估 450 个回合。
时间设置
所有任务都从 12.5–33.33 Hz 的观测频率和 0–50 ms 的传输延迟中采样,并在各传感器流之间独立取值;原始数据集的频率为 100 Hz。对于 Pivoting,力/力矩的采样频率为 1–100 Hz,传输延迟为 0–100 ms。一半动作块以零延迟开始;其余动作块的起始延迟最高采样至 100 ms。
动态与多感官任务:完整消融
在 Conveyor 上,为 Diffusion Policy 加入时间随机化,显著改善了若干扰动设置下的表现。在小幅观测变化下,成功率从 15.6% 提高到 60.9%;在最高达 100 ms 的延迟下,则从 14.2% 提高到 47.3%。这表明,让策略接触范围更广的观测和执行计划,本身就能起到有益的数据增强作用。
但这一收益无法顺利扩展到更严重的分布偏移:在广泛感知变化下,成功率仅从 0.0% 提高到 6.4%;在组合条件下,两种变体的成功率仍接近于零。随机化还使 Conveyor 的标称表现从 73.1% 降至 53.6%,说明在不告知策略每个样本对应何种时序的情况下引入时间变化,会带来性能权衡。
这一局限在 Pivoting 上更加明显。为 Diffusion Policy 加入时间随机化后,所有条件下的表现都下降,标称成功率也从 61.6% 降至 29.8%。与 Conveyor 不同,Pivoting 需要关联在不同时刻采样的视觉、本体感知和力/力矩测量。如果时序计划被随机化却隐藏了时间戳,相同的令牌位置就可能对应不同的跨模态时间偏移。因此,额外的数据多样性也带来了策略无法消解的歧义。
真实世界任务设置与演示数据
真实世界评估涵盖 Dynamic Cup、Peg Insertion 和 Pivoting。Dynamic Cup 在不同的碟子速度、位置和旋转方向下评估。Peg Insertion 针对两种孔位方向(向前和向后),每种进行五次试验。Pivoting 在四种设置下各进行五次试验:大橡皮、小橡皮、盒子和侧向配置。
所有任务都使用两条 RGB 观测,以及相对位姿和测得夹爪宽度的历史数据,标称频率为 20 Hz。论文提供的文本在说明 Peg Insertion 和 Pivoting 还会使用“3”之后便中断。
常见问题
Chronos Policy 为机器人策略输入增加了什么? 它将观测与其采集时刻相关联,并将预测动作与其预期执行时刻相关联。
Chronos Policy 如何表示物理时间? 它在注意力中使用时间感知 RoPE,在保持令牌嵌入不变的同时,明确表示经过的物理时间。
观测时间随机变化时,时间戳为何有用? 时间戳让策略能够解读变化的观测计划和异步测量,而不是将序列位置视为固定时间间隔。
显式时间建模会降低标称任务表现吗? 报告的准静态操作结果显示,其标称表现与 Diffusion Policy 相当;当部署时序发生变化时,Chronos Policy 则更加鲁棒。
