机器人通常需要相互通信才能协调行动。一种名为CoDiMAD的新方法让机器人团队无需任何通信即可协同工作,它利用扩散模型仅从局部信息生成协调动作。
目录
研究人员构建了什么
CoDiMAD——全称为协调扩散与多智能体蒸馏——是一种训练框架,允许机器人团队在执行任务时不交换消息即可协调动作。关键洞察在于:机器人常常需要针对同一情况产生多个同样有效的响应(多模态行为),但标准神经网络方法会将这些模态平均化,产生无用的混合动作。
研究人员通过训练一个看到全局信息(完整状态)的“教师”机器人,并将其协调动作分布蒸馏到一个基于每个机器人有限局部视角运行的扩散模型中,解决了这一问题。部署时,每个机器人运行自己的扩散模型,从学习到的分布中采样动作,自然地保留了所需的多样性。团队在三个经典的多机器人基准任务上测试了CoDiMAD:协作区域覆盖、追捕-逃脱和推箱。

关键成果
在所有三个任务的无通信设置下,CoDiMAD持续优于主流的的多智能体强化学习基线——包括MAPPO、QMIX和IDQN。在协作覆盖场景中,CoDiMAD实现了更高的覆盖率和更少的碰撞。在追捕-逃脱中,追捕者尽管速度只有逃跑者的一半,但更快地抓住了逃跑者。在推箱任务中,CoDiMAD团队更高效地将箱子移到了目标区域,同时保持了更好的多智能体接触。
该方法还能处理多达八个机器人的环境而性能不下降。作者通过动作空间可视化证明,标准确定性策略会将多模态行为坍缩成无效的平均值,而CoDiMAD则正确采样出其中一个有效模式。这一特性对于现实世界中的协调至关重要,因为机器人必须在不交谈的情况下就谁去哪里的问题达成隐式共识。
工作原理
CoDiMAD分两个阶段运行:特权训练和无通信部署。训练时,一个集中式的教师网络接收所有机器人和环境的完整状态。教师网络使用扩散模型学习条件动作分布——本质上是学习如何将随机高斯噪声去噪成整个团队的协调动作。
学生网络(每个机器人一个)仅接收局部观测。其目标是通过蒸馏损失匹配教师的动作分布。学生网络也使用扩散模型,但仅以局部信息为条件。由于扩散模型能够表示复杂的多模态分布,学生网络可以保留教师输出中的所有模式——这与均方误差损失会将它们平均化不同。
部署时,每个机器人独立运行其扩散模型:从随机噪声开始,基于局部观测迭代去噪。去噪过程收敛到学习到的条件分布的一个样本。由于训练确保每个机器人的分布是共享的(从同一个教师蒸馏而来),采样的动作无需任何显式通信即可自然协调。

对机器人领域的重要意义
无通信协调对现实部署具有变革意义。它消除了无线电延迟、干扰风险以及对网络基础设施的依赖。仓库机器人可以在繁忙的设施中分拣包裹,而无需用状态更新淹没网络。协作机器人在工厂车间可以无需中央控制器协调运动。搜救团队可以在无线电信号无法到达的隧道中作业。
基于扩散的方法也能优雅地扩展——每个机器人训练后独立行动,团队规模增大时不会增加通信开销。而且由于该方法仅依赖局部观测,它可以自然地适配现有机器人硬件,无需额外传感器或无线电设备。
对于机器人采购者和工程师而言,CoDiMAD指明了通往更具弹性的多机器人系统的路径。与其构建昂贵的通信硬件和软件栈,团队可以投资更好的训练流程,让机器人通过动作而非线缆“交谈”。
局限性与开放问题
CoDiMAD假设训练环境稳定,且存在一个特权教师——这在真正的分布式环境中并非总是可行,因为没有任何单一实体能看到全局。协调质量取决于学生的局部观测在多大程度上捕获了消除模态歧义所需的信息;如果观测过于稀疏,学习到的分布可能会坍缩。
扩散采样在运行时也引入了计算开销。每个机器人每个动作必须执行多个去噪步骤,这可能比神经网络的一次前向传播慢。资源受限平台上的实时应用可能需要更轻量级的扩散方案。最后,该方法仅经过仿真测试;现实世界中的噪声和延迟可能会降低性能。
常见问题解答
这里的“特权蒸馏”是什么意思? 训练时,一个看到全局信息(特权信息)的教师模型用于指导学生模型,这些学生模型仅看到局部数据。训练结束后,教师被丢弃。
机器人需要任何传感器来通信吗? 不需要——部署时机器人仅使用局部观测(例如摄像头、激光雷达)。所有协调来源于通过扩散学习到的共享动作分布。
这能用于异构机器人团队吗? 当前论文使用同构智能体,但可以通过将扩散模型以机器人类型或能力为条件来扩展该框架。
运行时扩散采样的速度有多快? 论文使用标准的DDPM调度,包含100个去噪步骤。这比单次网络前向传播慢,但对于许多中等控制频率的机器人应用仍然可行。
结论
CoDiMAD巧妙结合了扩散模型和特权知识蒸馏,解决了多智能体无通信协调这一长期难题。通过保留多模态动作分布,它使机器人能够仅凭局部信息隐式达成协调行为的共识。该方法为构建更鲁棒、更少依赖基础设施的多机器人系统开辟了道路。
基于扩散的隐式协调能否取代你下一次多机器人部署中的专用通信链路?
