稀疏世界模型助力手术机器人完成长流程任务

稀疏世界模型助力手术机器人完成长流程任务

Shuzhe Zhang, Xin Zhu, Yinling Qian, Qiong Wang

1 分钟阅读•2026年8月17日

一台手术机器人学会围绕稀疏且自动检测的事件来组织长流程操作,而不是依赖固定的阶段标签。S2-HWM 系统结合高层管理器、低层控制器和事件转移模型,使机器人能够在接近、抓取、搬运、对齐和释放等环节持续推进任务目标,从而应对自主手术学习中因反馈延迟而产生的困难。

目录

研究人员构建了什么?

S2-HWM 是一种面向长时域手术机器人操作的分层世界模型。世界模型可以理解为一种学习得到的模拟器:它不必让真实机器人或环境执行每个动作,而是预测机器人所处情境将如何变化。“分层”意味着系统以两种不同的时间尺度做出决策。

高层管理器选择一个潜在目标,也就是机器人下一步应完成什么的内部表征。随后,低层执行器选择一个个电机动作来追求这一目标。S2-HWM 不要求管理器每隔固定步数或在预先设定的阶段更新,而是从机器人的潜在动作与状态轨迹中学习稀疏的事件证据。

事件可以表示交互中的关键变化,例如完成抓取,或到达应从搬运转入对齐的节点。系统不会得到“抓取完成”或“释放阶段”之类的语义标签,而是根据任务动力学识别有用的更新时机。

研究人员在一个基于随机化 SurRoL 的 PegTransfer 仿真任务上评估了该系统。机器人必须接近并抓取方块,在几何约束下移动方块,将其与另一个 peg 对齐,最后稳定释放。该设置重点考察长序列和延迟奖励问题,而非真实手术硬件本身。

模拟移 peg 过程,展示机器人在两个 peg 之间移动方块

手术机器人取得了什么结果?

研究人员将 S2-HWM 与无模型强化学习系统及其他世界模型基线,在随机化 PegTransfer 任务上进行了比较。评估还检验了该架构能否通过反复搬运处理更长的序列,以及能否在第二次搬运过程中方块掉落后恢复。

核心结果涉及事件级预测。事件转移模型(Event Transition Model,ETM)预测的是下一个学习到的事件边界会发生什么,而不是逐个预测所有原子动作步骤。经过归一化的预测误差在三个事件转移内基本保持接近单事件基准;此后,其增长速度也慢于用于原子级连续预测的循环状态空间模型(RSSM)。

这一结果之所以重要,是因为管理器可以跨越多个有意义的事件进行规划,而不必递归模拟每一个中间动作。原文没有提供基线比较中的具体任务成功率,因此无法据此给出精确的百分比排名。不过,文中报告了以下评估细节:

评估细节报告设置
训练随机种子3
确定性检查点测试回合每个种子 50 回合
单次搬运回合时域300 个原子步骤
重复搬运时域最多 800 个原子步骤
压力测试要求的搬运次数连续 2 次搬运
事件级预测趋势三次事件转移后,ETM 误差增长慢于 RSSM 误差

压力测试很重要,因为一个只能完成短时、孤立动作的控制器,在必须连续衔接多个动作时仍可能失败。扰动测试在第二次搬运过程中人为让方块掉落,用来暴露恢复能力和长程信用分配方面的不足。

展示长时域手术操作的移 peg 任务过程

S2-HWM 如何工作?

S2-HWM 首先将观测和动作编码为潜在轨迹。潜在轨迹是对机器人所见、所做以及环境反应的紧凑内部记录。系统在这条轨迹中寻找稀疏的事件证据:这些变化表明当前目标到了适合重新调整的时机。

这些事件并不是固定的时间标记。根据接近角度、物体位置或接触质量的不同,完成一次抓取所需的原子步骤数可能不同。通过从不断演化的交互中检测事件,S2-HWM 无需把每个回合都强行安排进同一条僵化的时间线。

在每个被接受的事件边界处,管理器都会选择一个新的潜在目标。执行器接收该目标后,持续选择原子动作,直到下一个事件边界出现。原子动作是每个仿真步骤产生的底层控制,而事件级决策则决定机器人下一步应关注什么。

ETM 作用于两个边界之间、时长可变的片段,并预测以下三个量:

  1. 下一个边界的随机状态: 机器人和环境在下一个事件处的紧凑表征。
  2. 片段时长: 完成该事件需要多少个原子步骤。
  3. 片段累计奖励: 该可变长度片段中获得的学习信号总量。

管理器可以将多个事件的 ETM 预测串联起来。这样便能延长价值自举范围,也就是说,管理器可以估计一个目标在短暂想象轨迹之外的长期价值,而世界模型通常只能提供有限的短程预测。系统不必详细预测每个中间状态,也能对接下来几个交互里程碑进行推理。

执行器仍采用原子步长的演员—评论家学习。演员—评论家方法同时学习动作策略和值函数估计;在这里,执行器负责精确、即时的控制,而管理器负责更长程的任务组织。

这种设计将两个经常混在一起的问题分开处理:执行器学习如何准确移动和操作,管理器则学习何时发生了有意义的变化,以及接下来应采用什么目标。

与不同操作事件相关的学习动作倾向

这对机器人技术为何重要?

长时域操作之所以困难,是因为最终奖励往往要等完整序列结束后才会到来。机器人在接近物体、建立接触、搬运物体或开始对齐时,能够获得的指导很少。如果最终释放失败,传统学习系统很难判断究竟是哪一个早期决策导致了失败。

S2-HWM 提供了一种围绕事件组织学习的方法,同时不要求工程师手工编写每个阶段边界。这对于接触时机因每次尝试而变化的操作任务很有价值,包括手术工具使用、插入、装配、转移和受限放置等。

这种方法还实现了实用的分工:低层控制器保留接触密集型运动所需的精确性,高层模型则围绕有意义的任务转移进行推理。在规划较长流程时,这种结构有望减少对长篇原子级轨迹展开的依赖。

对于运营团队而言,这一思路适用于必须完成一连串动作、而非只执行单个孤立动作的机器人。正在比较平台的采购方可以在 Robot Overflow 上浏览人形机器人,了解通用操作系统;也可以查看 二手工业机器人,了解结构化自动化硬件。两类设备都不能自动视为适用于手术,但都体现了完成长流程协调操作所需的硬件与控制栈。

目前最直接的应用场景仍是基于仿真的训练。世界模型可以在策略迁移到昂贵或安全要求极高的实体系统之前,加速实验迭代。

有哪些局限和待解问题?

评估集中在一个随机化的、基于 SurRoL 的 PegTransfer 任务上,因此对于不同器械、组织交互、可变形材料、摄像头条件以及真实手术室的泛化能力仍未经检验。实验仅在事后分析中使用语义标签;智能体本身并未接收这些标签。这证明了无标签事件发现的可行性,但也留下了一个问题:学到的事件是否具有足够的可解释性。

文中报告的 ETM 优势体现在相对预测误差的增长上,而不是完整的临床性能评估。长时域预测的准确性仍会下降,并且在较长预测范围内,不确定性区间存在重叠。现有结果没有列出各基线的确切成功率,因此很难判断实际提升幅度。

未来的评估需要开展实体机器人试验,覆盖更广泛的手术任务,明确报告恢复指标,并在存在传感器噪声和接触不确定性的条件下进行测试。此外,还需要确认当任务发生变化或出现意外交互时,事件边界是否仍能保持稳定。

常见问题

S2-HWM 是否在实体手术机器人上进行了测试?

没有。报告中的评估采用随机化的、基于 SurRoL 的 PegTransfer 仿真,而不是实体手术室机器人。

系统是否使用人工标注的手术阶段?

没有。S2-HWM 从潜在轨迹中学习稀疏事件证据,不需要语义阶段监督。

事件转移模型预测什么?

ETM 预测下一个事件边界处的状态、可变片段时长,以及该片段中累计获得的奖励。

为什么事件边界对长流程任务有帮助?

它让高层管理器在交互发生变化时更新目标,而不是依赖固定时序或人工定义的阶段。

结论

S2-HWM 围绕学习到的交互事件组织手术机器人学习,将灵活的高层规划与精确的原子级控制结合起来。其事件级预测能够在多次任务转移之间保留有用信息,为提升仿真环境中长时域操作能力提供了一条值得关注的路径。

手术机器人学习应优先采用学习得到的事件,还是工程师定义的任务阶段?