扩散模型如今能够通过生成神经网络权重来构建可用的人形机器人控制器,而不只是生成运动计划或动作。在仿真中,生成的策略能够完成行走、跳舞和旋踢;研究报告称,这些策略无需额外训练即可迁移到 Unitree G1。对权重的分析还发现了与机器人运动相关的重复结构。
目录
研究人员构建了什么?
研究团队构建了一个系统,用于生成控制人形机器人的网络内部参数——权重和偏置。该方法不是让模型直接输出每个动作,而是生成一个候选神经网络控制器,之后可将其部署到机器人上运行。研究人员聚焦于策略网络,也就是强化学习系统中负责选择动作的部分。训练期间使用的独立价值网络未纳入生成数据集。
训练样本来自在 mjlab 仿真环境中训练的控制器,涵盖三种难度递增的行为:行走、节奏舞蹈和动态旋踢。每个策略网络都是一个三层神经网络。数据集包含多个已训练控制器的保存版本,所收集的检查点均来自训练收敛之后。
为了让权重数据更易于建模,系统首先利用自编码器将其压缩为较小的表示。自编码器是一种能够学习紧凑编码复杂数据并在之后重建数据的模型。随后,扩散 Transformer 学习在这一压缩空间中生成样本。实际上,这意味着它学习已有控制器权重中的模式,并能够生成符合所学分布的新权重组。
目标不仅是让机器人动作看起来合理。生成的权重必须能够用作控制器,产生可让仿真人形机器人或实体人形机器人完成任务的动作。

主要结果是什么?
研究人员在三项仿真任务中评估生成的控制器,并将其与训练数据集中的强化学习(RL)控制器进行比较。他们还测试了嵌入维度不同的扩散 Transformer。计划采用的性能指标是成功率和跟踪误差:成功率反映任务是否完成,跟踪误差则衡量机器人跟随目标动作的精确程度。
论文结论报告称,扩散模型生成的网络能够完成这些动作,并可零样本迁移到 Unitree G1 人形机器人。这里的“零样本”指生成的控制器迁移到实体机器人后,没有在该机器人上进行额外训练。现有论文文本未提供成功率或跟踪误差的数值结果,因此无法据此精确比较生成的控制器与基线之间,或不同测试模型规模之间的表现。
分析还发现,控制器网络的第一层包含与机器人运动相关的重复结构。通过 RL 和模仿学习训练的网络,针对同一动作呈现出相似结构,尽管训练目标不同。域随机化显著改变了单个权重,但整体模式仍然相似。研究人员的可视化结果还显示,生成的权重样本位于训练数据的分布范围内;这支持模型学到了数据结构,但本身并不能证明模型具有广泛的分布外泛化能力。

权重生成如何运作?
整个流程以训练好的控制器为起点,而不是原始视频或动作捕捉片段。每个控制器都是一组数值参数。这些参数组难以直接建模:它们包含大量数值,而且不同层的数值尺度可能不同。因此,研究人员使用自编码器将权重映射为紧凑的潜在表示——一种保留有用结构的较小数值描述。
一个关键设计选择是将第一层与后续层分开编码。第一层将机器人的观测连接到其内部特征,因此其输入具有与机器人感知内容直接相关的含义。研究人员将该层的权重和偏置归为一组,再将第二层和第三层的参数归为另一组。在一项消融实验中,与在相同潜在容量下将所有参数一起编码相比,这种按组编码的设计能够更准确地重建权重数据。论文认为,改进部分源于各层参数的尺度不同。
扩散 Transformer 学习在压缩后的权重空间中生成样本。扩散模型通过一系列去噪步骤学习将噪声转化为结构化样本;在这里,结构化样本是控制器表示,而不是运动轨迹或一连串机器人动作。随后,解码器将该表示还原为可用于控制人形机器人的网络参数。
在数据采集过程中,策略网络在数千个并行仿真环境中进行训练,并在收敛后保存检查点。评估包括并行仿真运行、与收集到的 RL 控制器进行比较,以及在 Unitree G1 上进行实体测试。该设置检验了两个不同的问题:生成的权重能否产生有效策略,以及学到的权重模式是否反映了超越记忆样本清单的内容。
这对机器人技术为何重要?
机器人学习通常聚焦于将观测映射为动作的策略,或生成运动序列的系统。这项研究则将策略本身——控制器学到的参数——视为生成模型可以生成的对象。这为研究机器人技能的表征方式提供了不同途径,也可能有助于从一组已验证有效的策略中创建新的控制器变体。
实体迁移结果与实际部署尤为相关。仅在仿真中有效的策略不足以支持实际运行;控制器还必须适应真实硬件及其动力学特性。研究报告的 Unitree G1 零样本测试表明,由仿真训练数据生成的权重能够在实体人形机器人上运行,不过现有结果并未说明其可靠程度或适用条件的范围。
对于关注人形机器人发展的工程师和买家而言,这项工作还提供了一种检查已学习控制器的方式,而不是把它们当作不透明的文件。第一层权重在不同训练方法下均呈现与运动相关的结构,这一发现为研究人员探索网络学到了什么提供了起点。它尚未带来提升策略性能的实用捷径,但为理解策略增添了一种新工具。读者可以在 Robot Overflow 浏览人形机器人,或查看待售二手机器人。
有哪些局限和未解问题?
实验涵盖三种动作和一种人形机器人形态,因此结果尚不能说明相同权重模式是否适用于不同机器人设计或更广泛的任务。分析也主要聚焦于网络第一层;更深层的情况,以及域随机化如何重塑整个网络,仍有待进一步理解。
目前尚未证明所发现的模式能够提升策略性能,也未展示生成更优控制器的实用方法。此外,生成样本出现在训练分布范围内,并不等同于证明模型能够泛化到新任务或差异显著的控制器。最后,现有论文文本没有提供成功率和跟踪误差的数值结果,限制了与所述基线进行直接比较。
读者常问哪些问题?
模型会直接生成机器人动作吗? 不会。它生成的是神经网络权重;生成的网络用作控制器时,才会产生动作。
测试了哪些任务? 研究在仿真中评估了行走、跳舞和动态旋踢。
生成的控制器在实体人形机器人上运行了吗? 论文结论报告称,控制器无需在实体机器人上进行额外训练,即可零样本迁移到 Unitree G1。
分析是否证明模型创造了全新的技能? 没有。可视化结果显示生成的权重处于训练分布范围内,但研究并未证明模型能够广泛泛化到未见过的技能。
核心结论是什么?
这项研究表明,扩散模型可以通过建模神经网络权重空间来生成有效的人形机器人控制器,并报告了从仿真到实体 Unitree G1 的迁移结果。对权重空间的分析为了解控制器内部如何体现学到的运动提供了线索,但更广泛的泛化能力及实际性能提升仍有待验证。
对于真实世界的人形机器人应用,最值得生成哪些控制器权重?
