通用机器人技术的愿景,是打造能够在复杂真实环境中可靠执行广泛任务的机器人;在这些环境中,物体、布局和指令不断变化,机器人也能从经验中持续改进。这使机器人的目标从完成单个回合的任务,转向持续积累能力:抓取失败、过时的物体位置和恢复情境,只有在机器人能够识别其中涉及的能力、依据执行证据加以改进,并让后续任务能够调用改进后的行为时,才真正有价值。
然而,只有围绕赋予执行经验意义的任务结构加以组织,经验才能成为可复用能力。修复必须始终关联到促使其发生的目标,归属于负责相关行为的能力,并经过验证后才能复用。如果缺乏这样的结构,反复尝试会让上下文堆满完整轨迹,局部修复会偏离总体目标,人们也不得不重新介入,重置环境、阅读日志,并判断每项修复应归于何处。
我们的观察是,这种结构必须同时服务于指导机器人的人和负责实现其行为的智能体,因此需要两种互补的抽象方式。面向人的引导,让人们能够在所需服务的层面表达目标、领域知识、约束和安全判断。面向智能体的结构,则为智能体提供与任务相关的上下文、明确的接口,以及执行和修订方面边界清晰的职责。
基于这一观察,我们提出RoboRSI,这是一种采用自上而下技能细化(Top-Down Skill Refinement,TSR)组织机器人自我改进的多智能体系统。TSR将每项任务分解为复合、原子和基础技能,并为其设定明确的职责范围及输入—输出契约;它将每次执行结果归因于相应分支,并将修订限制在该分支内:分解不充分时修订任务结构,组合不可靠时修订相应的复合技能,操作失败时修订负责该操作的原子技能或基础技能。管理者、规划器、工程师和审查者分别负责规划、执行、诊断和经验证的发布;稳定的技能序列会整合为复合技能,供后续执行选择和监控,而不必每次都重新构建工具决策。
我们在一台移动操作机器人上评估RoboRSI:机器人在场景变化期间执行多物体家庭清理任务,技能在104轮开发中不断完善。我们还在仿真中将RoboRSI与机器人智能体基线在LIBERO、LIBERO-PRO和RoboTwin上进行比较,并将冻结的能力迁移至LIBERO-Plus。RoboRSI在全部四项基准上均取得最高成功率,较最强基线在LIBERO上高5.3个百分点、在LIBERO-PRO上高11.0个百分点、在LIBERO-Plus上高5.7个百分点、在RoboTwin上高2.7个百分点。
我们的贡献主要有三点:
- 机器人自我改进的互补抽象方式:只有与赋予执行经验意义的任务结构相联系,经验才能成为可复用能力。这种结构必须同时支持面向人的引导和面向智能体的组织。
- RoboRSI框架:系统通过自上而下技能细化实现这些抽象方式,在完成任务前验证每项原子任务的后置条件,并从层级结构中最早发生失败的节点开始修订;同时,借助多智能体执行—细化循环,在不同任务间验证并发布技能。
- 真实环境与仿真评估:在移动操作机器人上开展104轮技能开发,在四项仿真基准上取得最高成功率,并通过消融实验分析角色分离、技能细化和复合技能。
方法
设想一个直接连接机器人工具的编码智能体,需要在复杂真实住宅中经过多轮运行,改进一项家庭清理任务。上下文会被以往运行的记录填满;序列后段观察到的失败会在出现之处被修补,例如给释放步骤添加重试,尽管问题实际源于感知或导航;由于目标只隐含在最新提示中,连续修改也会逐渐转而优化最新场景。于是,人们又不得不重新阅读日志,并判断每项修复应归于何处。RoboRSI通过明确表达人的意图和智能体的工作,消除了这一负担。
总体框架
RoboRSI将机器人的反复执行转化为不断扩充的可复用技能库,并围绕上述两种抽象方式进行组织。面向人的引导是人们输入目标、约束、领域知识和修正意见的渠道,输入内容针对任务层面;每项修正都会作为持续维护的指导信息,关联到负责相应工作的技能。面向智能体的结构则是智能体工作的任务—技能层级:每项任务和技能都有接口、明确的职责以及近期执行记录,因此每个智能体只会收到与当前步骤相关的层级部分。

框架的一轮开发过程如下:智能体分解既定目标,并基于已发布技能进行规划;执行过程逐层深入至基础技能;随后根据可见证据和工具调用轨迹,定位最早发生失败的节点;最后验证并发布相应更新,供下一轮使用。人们在第一阶段以及需要修正时提供引导。
自上而下技能细化
物理任务开发过程中的任务—技能结构
物理机器人上的两次TSR修订

实验
我们报告实体部署和仿真结果,随后比较单个回合,并总结消融实验结果。
物理机器人案例研究
我们研究使用WheelSingleArm M1移动操作机器人进行家庭地面清理。机器人搜索物体,靠近并抓取物体,再将其运送到指定容器。案例研究涵盖104轮实体开发运行,累计运行24小时。每轮运行前,场景都会恢复至统一的基础布局,同时对物体和容器进行部分随机化;导航地图保持不变。平台详情和重置流程见附录。
案例研究
我们考察三个案例:RoboRSI在与基线相同的初始状态下成功完成任务,而基线失败;随后追踪一项经过修订的技能如何被复用于其开发任务以外的任务。
在LIBERO-Plus上,任务是将一包奶油奶酪放进篮子。OpenETA的组合式抓取与放置工具返回结果称物体已在目标位置释放,智能体随即宣布成功。CaP-X的放置操作也报告物体已释放,但其容纳检查仍未验证。两个回合均以失败告终。RoboRSI使用冻结的源技能库,收到的放置结果显示夹爪并未打开。它没有就此结束任务,而是检查自己是否仍抓着奶酪包,从头部视角和顶部视角重新观察篮子,再次放置奶酪包,最终成功。

消融研究
我们分别研究角色分离、层级细化、代码整合和主干模型选择,并额外考察基于执行数据的策略学习。主干模型实验使用LIBERO-PRO和RoboTwin任务组,每项任务评估三个回合;每个主干模型分别评估360和150个回合。
我们比较了在50项RoboTwin任务上使用单一智能体和分工角色进行开发的效果。在单智能体设置中,一名工程师负责规划、执行并评判自己的尝试。在多智能体设置中,规划器负责制定计划,工程师负责执行,审查者则根据观测结果和工具调用轨迹诊断每次执行结果。单智能体完成了50项任务中的9项,多智能体系统则完成了36项。将诊断与执行分开,可以在下一次尝试前对每次失败进行独立审查,而不是让执行智能体自行判断结果。
结论与未来工作
RoboRSI结合自上而下技能细化与多智能体协作,对执行、诊断、局部修订和可复用能力进行组织,旨在让机器人在复杂真实环境中实现稳定、高效且可复用的自我进化。未来工作将把仿真中获得的经验迁移到实体机器人,并在不同机器人和平台之间共享技能。
探索性开发
早期的LIBERO-Plus运行也允许在目标基准上更新能力。这些实验设置允许反复尝试并在目标端更新,而主要的LIBERO-Plus迁移实验则保持源能力固定。
物理技能在第25轮和第33轮的修订
两条记录都来自移动操作机器人执行的家庭清理任务。每项修订都附带触发修订的运行记录、最近四次符合条件的运行作为回放缓冲区,以及发生变更的文件;在验证完成前,在线迭代暂停。
常见问题
RoboRSI是什么? RoboRSI是一种用于机器人自我改进的多智能体系统,负责组织执行、诊断、技能修订和经过验证的发布。
自上而下技能细化有什么作用? TSR将执行结果归因于相应任务或技能,并将修订限制在层级结构中最早发生失败的部分。
RoboRSI如何在实体机器人上进行评估? 一台WheelSingleArm M1移动操作机器人进行了104轮家庭地面清理开发运行,累计运行24小时。
多智能体设置在RoboTwin上的表现与单智能体相比如何? 单智能体完成了50项任务中的9项,而多智能体系统完成了36项。
