人形机器人如何利用自身运动数据习得全身技能

人形机器人如何利用自身运动数据习得全身技能

Yucheng Zhang, Sirui Xu, Jinhong Li, Liuyu Bian, Anatulya Nandi +6 位

1 分钟阅读•2026年10月6日

InterMimicGen 将人与物体交互演示转化为可供机器人执行的动作,再利用经过物理仿真检验的动作变体,逐步拓展人形机器人的技能。该方法将全身运动、手部接触和物体操作联系起来,而不是将它们作为彼此独立的问题分别训练——这是让人形机器人能够将熟悉的动作适应不同身体、姿势和交互设置的重要一步。

目录

研究人员构建了什么?

InterMimicGen 是一个用于训练人形机器人协调完成“移动操作”的系统,也就是在空间中移动的同时操控物体。系统以一组人类演示为起点。它并非直接照搬人的关节运动,而是将人与物体及周围空间之间的关系迁移到机器人身上。这一点很重要,因为机器人的身体比例、关节和手都与人类不同。

研究人员将交互动作整合为一种共享格式,再将其重定向到六种机器人配置。动作重定向是指转换动作,使其适应不同的身体,同时保留关键特征,例如手部与物体接触的位置,以及身体如何支撑这一交互。系统还包含一个自演进循环:机器人的运动跟踪器在仿真中执行经过修改的参考动作;成功的动作变体则成为额外的训练样本。

源数据集涵盖多种人体动作和物体形状。其覆盖度分析包含 16,059 段人体运动序列和 155 种不同的物体几何形状。最终成果不仅仅是一个更大的动作库,而是一套流水线:将演示转化为可执行的机器人动作,再利用经过验证的执行结果来构建更丰富的动作库。

InterMimicGen 的动作重定向与自演进数据流水线概览

关键结果有哪些?

核心成果是建立了一条可重复的路径,将人类演示转化为新的机器人训练数据。InterMimicGen 的跟踪器既使用动作参考,也参与生成新的动作参考:它从不断扩充的存档中学习,再利用提升后的动作执行能力测试更多变体。论文报告称,微调使跟踪器能够处理超出基础跟踪器能力范围的交互,同时保留原有技能。

动作变体还涵盖了简单调整场景无法实现的变化。作者报告称,身体动作调整覆盖的区域比 ULTRA 的场景缩放所产生的变化宽数倍,而且主要涉及场景缩放未探索的方向。这些调整可以改变姿势、站姿或手臂构型,同时保持任务和预期接触不变。

评估涵盖双手操作、坐下和抓取,使用了 15 种物体。评估指标包括任务成功完成情况、身体与物体跟踪误差、手部接触、滑移、碰撞、足部滑动、动作平滑度和关节限位违规情况。现有结果文本未提供汇总成功率或误差数值,因此无法在此比较这些分数;报告的发现支持动作覆盖范围更广这一结论,但并未声称每种动作变体都能奏效。

迁移至人形机器人的人类与物体交互动作示例

InterMimicGen 如何工作?

首先,系统会筛选目标机器人能够从物理上实现的人物与物体交互动作。如果某段序列依赖机器人不支持的特征——例如模拟器未建模的包带——就会被排除。没有灵巧手指的机器人也无法执行依赖精细手指接触的交互。

接下来,系统分两个阶段对动作进行重定向。全身阶段使用“交互网格”,将身体标志点与从物体表面采样的点连接起来。匹配该网格有助于保留人与物体之间的空间关系,而不是单纯匹配关节角度。系统在机器人的物理约束下求解底座和关节,同时利用手部标志点定位手腕和手掌。手指对向项则鼓励拇指和其他手指从物体相对的两侧靠近。

随后,清理阶段会在保持接触的同时优化局部手部动作。这种分阶段处理很重要:若用单一目标同时求解全身动作和精细的手指接触,可能导致抓握松动,或对身体动作施加过多限制。

参考动作准备就绪后,跟踪器便会驱动模拟机器人执行该动作。InterMimicGen 主要通过两种方式生成变体。物体调整会改变交互发生的位置。身体调整则在保留任务关键细节的同时,改变姿势、站姿或手臂构型;部分手臂调整会利用额外的关节活动自由度,但不改变手掌目标位置。

候选动作需要通过有效性检查,并在使用不同随机种子的情况下进行三次仿真运行。检查内容包括:预期的手部是否在动作接近结束时实现接触、机器人是否摔倒、放置的物体是否保持稳定,以及高频动作是否异常粗糙。通过检查的变体会成为新的训练参考。对跟踪器进行微调是维持这一循环运转的关键:当动作超出冻结跟踪器的执行能力时,它能产出的合格变体会越来越少。

这对机器人技术为何重要?

人形机器人需要的不只是孤立的手臂技能。拿起物体、抱着物体坐下,或把物品搬过房间,都可能需要协调平衡、落脚位置、躯干运动和手部接触。InterMimicGen 将物体交互视为全身问题,并在把候选动作加入训练存档之前,先通过物理仿真进行检查,以此针对这种协调需求展开研究。

对于机器人工程师而言,这种方法凸显了两个有用的思路。第一,人类演示能够提供多样化任务,而当动作根据机器人的身体和接触能力进行适配后,其价值会更高。第二,仿真有助于生成和筛选能够保留任务意图的动作变体,从而无需人员记录每一种姿势和物体摆放方式。

这对正在评估 Robot Overflow 上的人形机器人 的团队具有参考意义,尤其适用于机器人需要在移动过程中操控物体,而非只执行固定的手臂动作的情况。物料搬运也有类似需求,不过这项研究并未证明相关方案已具备部署条件;探索此类工作流程的团队也可以浏览仓储机器人。实际启示在于一种训练数据策略,而非人形机器人已经能够在不受控的工作场所可靠完成这些任务的证据。

有哪些局限和待解问题?

该系统依赖人类演示、物体模型、机器人模型和仿真物理的覆盖范围与质量。模拟器或机器人无法表示的交互会被筛除,因此该方法无法自动为不支持的手部、接触类型或物体特征创建技能。通过仿真检查的动作,在实体硬件上的表现也可能有所不同。

接纳规则优先考虑可识别的结果——例如动作结束时手部接触物体,或物体放置后保持稳定——而非精确达到目标姿势。这有助于保留有用的动作变体,但这些检查能否预测实际作业中的安全性、可重复性或任务质量,仍有待验证。平滑度检查也只是排除明显异常的动作,并不能证明所有通过检查的动作都舒适或稳健。

论文报告的材料提及现场部署支持,但此处提供的细节不足以评估实体机器人的表现。基准测试设置覆盖面较广,但现有文本未包含汇总分数。要评估真实环境中的迁移效果、故障恢复能力,以及随着任务和环境日益多样化,扩充后的存档是否仍然有用,还需要更多证据。

读者常问哪些问题?

“移动操作”是什么意思? 它指同时移动和操控物体,并将平衡、移动能力与手部交互协调为一项任务。

InterMimicGen 是否直接从视频中学习? 据介绍,该系统使用人与物体交互的动作参考,并将其重定向到机器人身体;现有文本并未证明它采用仅依赖视频的学习流水线。

系统如何判断动作变体是否有用? 它会在仿真中运行候选动作,并检查手部是否接触物体、机器人是否避免持续摔倒、物体放置是否稳定,以及动作平滑度是否达标等结果。

该系统已被证明能在工作场所可靠运行吗? 所提供的结果主要聚焦于基于仿真的评估,并未证明该系统能在真实工作场所可靠运行。

核心结论是什么?

InterMimicGen 将人类演示、适配机器人身体的动作迁移和仿真检查结合起来,扩充人形机器人用于全身物体交互的动作库。其自演进方法提供了一种生成更多样化训练动作的途径,但真实环境中的可靠性和完整基准测试表现仍需要更明确的证据。

哪种全身任务最能从更丰富的经验证机器人动作库中受益?