机器人如何通过任务演练,在变化的世界中习得新技能

机器人如何通过任务演练,在变化的世界中习得新技能

Heng Fang, Zehui Guo, Yuehan Zhang, Mingyang Du, Dingkang Liang +1 位

1 分钟阅读•2026年11月10日

RoboScript 让机器人通过在模拟环境中演练单次示范来学习任务,随后将所得知识保存为可复用的任务记忆,而不是更新模型权重。在 RoboTwin 2.0 的全部 50 项任务中,每项任务仅使用一次示范且不进行梯度更新,在干净和随机化场景下的平均成功率达到 83.4%,比表现最强的训练型动作策略高出 20 多点。

目录

研究人员构建了什么?

研究人员构建了 RoboScript,这是一个通过世界内上下文学习(World In-Context Learning,WICL)教授操作技能的系统。WICL 不通过调整模型的内部参数来教授技能,而是向冻结的模型提供示范,让它在模拟器等世界中演练任务。模型利用演练经验构建特定任务的记忆,之后便可用该记忆指导后续尝试。

这种方法旨在解决常规上下文学习的一项弱点。机器人可以观看示范,但如果示范来自不同场景,就无法针对机器人当前面对的物体和条件提供反馈。RoboScript 将世界纳入学习环路:通过演练,系统可以从任务的实际进展中学习,而不只是依赖原始示例。

对于每项任务,RoboScript 都从单次示范开始,通过模拟演练进行学习,并将结果固化为任务记忆。随后,在数据隔离设置下,系统会在新场景中使用这份记忆。实际而言,部署时只能使用真实机器人可获取的信息,而不能依赖模拟器中隐藏的状态。该方法还包含反思机制,研究人员报告称,这可以提升任务表现。

模拟与真实机器人学习场景示意图;并非 RoboScript 研究中的图片

RoboScript 的表现如何?

在 RoboTwin 2.0 基准测试的全部 50 项任务中,RoboScript 的平均成功率达到 83.4%,涵盖干净和随机化场景。每项任务使用一次示范,且不进行梯度更新,这意味着模型通过学习这些任务时,其已学得的权重并未改变。

摘要报告称,RoboScript 的表现比最强的训练型动作策略高出 20 多点。这一比较很重要:训练型策略通常将学到的行为编码在权重中,而 RoboScript 则将特定任务的学习内容存入上下文记忆。结果表明,演练和任务记忆可以与强训练策略相媲美,并且在这项基准测试中表现更优。

报告结果RoboScript
RoboTwin 2.0 评测任务数50
干净和随机化场景下的平均任务成功率83.4%
每项任务的示范数1
任务学习所用的梯度更新次数0
相较最强训练型动作策略的优势超过 20 点

作者还报告了其在不同视觉分布下的泛化能力、反思机制带来的提升,以及随着基础模型规模扩大而取得的更好结果。摘要未提供干净与随机化场景、各项任务、模型规模或反思设置的单独分数,因此无法在此量化比较。摘要也报告了通过跨本体记忆适配,将方法迁移至实体双臂机器人,但没有给出实体机器人上的成功率。

世界内上下文学习如何运作?

WICL 将任务学习与模型训练分开。在传统的训练型动作策略中,示例会影响模型权重,学到的行为也可能与训练分布紧密相关。WICL 则保持模型冻结。“冻结”意味着模型已学习的参数保持不变,同时模型通过上下文和演练掌握特定任务。

这一过程从一段目标操作任务的示范开始。随后,RoboScript 让模型在一个世界(例如模拟器)中演练任务,并利用任务环境提供的反馈。关键在于,系统学到的是语义层面的经验:它记录任务步骤和物体所扮演的角色,而非仅仅照搬示范中的具体视觉外观。这样的任务知识可以迁移到不同场景中。

演练完成后,RoboScript 会将学到的任务知识存储为任务记忆。系统可以在新场景中应用这份冻结的记忆,而不必从头重复学习过程。数据隔离旨在确保部署时的输入以实体机器人实际能够获取的信息为依据,从而应对模拟演练可能让系统获得部署时无法获取的信息这一风险。

研究人员还介绍了作为提升表现手段的反思机制,以及通过跨本体适配记忆,使学习能够迁移到实体双臂机器人的方法。摘要未说明模型架构、任务记忆的具体内容或编码方式,也未详述演练和反思算法。摘要阐述了整体流程和主要结果,但不足以复现每一项工程设计选择。

这对机器人技术为何重要?

机器人部署时,示范与现场条件往往存在差异:照明会变化,物体布局会不同,设备的外观或配置也可能有所差别。如果系统只从原始图像中学习,当这些细节发生变化时就可能难以应对。RoboScript 的结果指向另一条路径:保留任务结构,再利用基于环境的演练,让这些知识适应新的场景。

避免梯度更新也可能让特定任务的学习更易于管理。将冻结模型与独立记忆分开,可以更清晰地划分通用模型与特定任务知识的边界。如果能够独立测试、替换或调整记忆,操作人员或许就能在不重新训练底层模型的情况下改变任务行为。论文摘要并未说明生产系统中的记忆管理方式,但这种分离提供了一个实用的设计方向。

向实体双臂机器人的迁移结果很重要,因为仅有模拟表现并不能证明一种方法能在真实硬件上运行。这一结果初步表明,任务记忆能够跨越从模拟到机器人的边界,甚至可以跨本体适配。评估操作任务的硬件选项时,探索自动化的团队也可以浏览出售的二手机器人。不过,基准测试的成功并不能替代针对具体作业的可靠性测试。

有哪些局限和待解问题?

现有摘要提供了主要基准测试数据,但仍有重要细节未说明。摘要没有指出基础模型的名称,没有解释任务记忆的表示方式,没有报告各项任务的分数,也没有区分干净和随机化场景下的成功率。缺少这些细节,就难以判断哪些任务拉高了平均分,也难以了解不同条件下表现的波动程度。

摘要也没有量化实体机器人演示:未提供硬件规格、任务清单、试验次数或真实机器人成功率。因此,这些结果支持的是一项有前景的迁移主张,而非对生产环境中鲁棒性的全面评估。演练质量和模拟器逼真度也是实际问题:能否成功,取决于演练环境提供的反馈是否能迁移到目标机器人和场景。

最后,每项任务只需一次示范是很亮眼的基准测试结果,但这并不能说明该方法如何处理含糊指令、长任务序列、安全约束或反复失败。这些都是将方法部署到受控基准测试之外时需要检验的重要方面。

常见问题

RoboScript 会针对每项任务训练或微调模型吗? 不会。模型保持冻结,报告中的任务学习过程不进行梯度更新。

RoboScript 每项任务需要多少次示范? 报告的 RoboTwin 2.0 结果中,每项任务使用一次示范。

该方法只能在模拟环境中运行吗? 摘要报告称,通过跨本体记忆适配,该方法已迁移至实体双臂机器人,但未提供详细的真实机器人指标。

报告中的主要基准测试结果是什么? 在 RoboTwin 2.0 的 50 项任务中,RoboScript 在干净和随机化场景下的平均成功率达到 83.4%,比表现最强的训练型动作策略高出 20 多点。

结论是什么?

RoboScript 展示了机器人如何在一个世界中演练操作任务,并将结果保存为任务记忆,而非改变模型权重。其基准测试表现以及报告中的实体机器人迁移结果,使世界内上下文学习成为一个有前景的方向;与此同时,详细的真实环境测试仍不可或缺。

哪些操作任务最适合通过演练学习,而不是重新训练模型?