加州理工学院的研究人员构建了 PAC-MAN,这是一种感知感知安全框架,它教会了 Unitree G1 人形机器人仅使用其板载深度摄像头和关节传感器躲避投掷的球。关键发现是:最强的安全保证只有在机器人感知足够好以支持它们时才会发挥作用,因此更轻量的安全结构在真实硬件上胜出。
目录
研究人员构建了什么
PAC-MAN 是一个训练框架,它将控制屏障函数(CBF)与强化学习相结合,使人形机器人能够用整个身体躲避来球。球向机器人发射,只有当没有任何身体部位(连手指或脚踝也不例外)接触球并且机器人保持平衡时,试验才算成功。没有参考运动可循;机器人仅凭原始传感器信号自行生成躲避动作。
该框架测试了两种安全结构级别。Link-CBF 是一种在训练期间使用的轻量级每链接惩罚,用于引导策略避免任何身体部位的接触。Joint-CBF 是安全集的更强大的全身投影,当准确的球状态可用时,可以指导训练或充当运行时安全过滤器。
在部署时,机器人仅看到板载传感提供的内容:本体感觉加上深度图像,并掩码到分割的球。对抗性运动先验将躲避塑造成蹲下、倾斜、侧步和跳跃,而不是僵硬的扭曲。研究了两种部署条件:单次校准投掷和循环部署,其中机器人在投掷之间走回其站位并恢复。

关键结果
PAC-MAN 的核心发现是安全结构和感知之间的耦合:更强的屏障结构只有在观测支持它们时才会发挥作用。
当有状态神谕提供精确的球位置时,带有运行时过滤的完整 Joint-CBF 是最强的配置。然而,在现实的固定板载摄像头下,较轻量的 Link-CBF——在训练期间由策略内化,不需要运行时过滤器——是最佳的可部署选项。模拟中目标对准的云台介于两者之间,表明将威胁保持在视野中更长时间可以解锁更多的安全结构。
团队在 Unitree G1 人形机器人上对固定摄像头 Link-CBF 策略进行了零样本部署,仅使用板载深度和本体感觉。机器人成功躲避了实况投掷,并且由于球在 RGB 中进行了语义分割,相同的策略可以处理不同的球,而无需重新训练。
基准测试还使用严格的任意链接接触标准。结果显示,许多明显的躲避会因肢体擦碰而失败,因此仅凭骨盆距离评分会夸大安全性——这是对整个身体机器人评估的警示。

工作原理
控制屏障函数编码安全状态集,并自动纠正会将系统推入危险的命令——但前提是相关状态可用。板载感知打破了这一假设:球可能只短暂可见,离开视野,或记录为几个噪声深度像素。PAC-MAN 将威胁表示和屏障设计视为一个耦合的安全问题,而不是独立的模块。
在训练期间,CBF 结构通过两种方式进入策略。Link-CBF 向奖励添加每链接惩罚,教导策略任何身体部位都可能被击中。Joint-CBF 将安全集投影到整个身体的关节空间,提供更强的信号——并且当准确的球状态存在时,可以在测试时作为特权运行时过滤器执行。
部署观测故意稀疏:本体感觉加上深度图像,掩码到紧凑的仅球视图,通过在 RGB 中分割球并门控深度通道产生。固定摄像头在短窗口内看到球,这限制了策略可以内化的屏障结构量。对抗性运动先验(AMP)正则化运动,使躲避表现为蹲下、倾斜、侧步和跳跃。
失败被严格评分。任何链接接触都算作命中,如果躯干方向、基础高度或持续蹲下超过阈值,则宣布摔倒。基准测试根据冻结雕像校准目标投掷,并报告重置成功和部署循环。

这对机器人技术的重要性
人形机器人进入仓库、工厂和公共场所时,将面临任何预计算路径都无法避免的瞬态危险:从架子上掉落的箱子、从叉车上摇摆的托盘、同事进入机器人路径。PAC-MAN 展示了一种全身反应性反射,仅通过板载传感运行——无需外部动作捕捉、无需基础设施、无需远程操作。
更深的教训适用于任何安全关键的机器人:安全过滤器的好坏取决于喂给它的感知。设计强大的屏障然后假设干净状态在现场会失败;将屏障与传感器实际能够提供的内容匹配才是重要的工程。这就是为什么浏览 Robot Overflow 上的人形机器人 和 仓库机器人 越来越需要感知感知的控制栈,而不是教科书式的安全层。
对于买家而言,这指向那些安全性行为是从真实传感器数据端到端学习的人形机器人——并且在基于接触的全身指标下验证,而不是简单的距离阈值。
局限性与开放问题
恢复 Joint-CBF 有效性的主动云台在模拟中是目标对准的;可部署的跟踪对准版本需要额外的硬件,并且仍然是未来工作。物理验证仅使用固定摄像头运行,球跟踪管道依赖于 RGB 分割,这在低光或视觉杂乱的环境中更难。基准测试针对每次试验的单个球,而真实工作场所呈现多个同时动态威胁。尽管零样本部署成功,但模拟到真实的差距仍然存在。发布基准测试和训练管道将让社区量化这些差距,并在新的球类型、速度和机器人平台上测试该框架。
常见问题解答
什么是控制屏障函数(CBF)? CBF 在机器人的状态空间中定义了一个安全区域,并自动纠正任何可能将机器人推出该区域的命令。它提供了机器人保持在安全集内的数学保证——前提是状态已知。
为什么简单的 Link-CBF 在真实机器人上胜过更强的 Joint-CBF? Joint-CBF 需要准确的球状态来执行其运行时全身投影,而固定的板载摄像头无法可靠提供。Link-CBF 在训练期间将安全性构建到策略中,因此它适用于机器人实际拥有的稀疏观测。
这仅适用于躲避球吗? 不。躲避球是测试瞬态全身碰撞避免的故意难题。相同的感知感知安全结构适用于任何必须对意外移动物体做出反应的机器人——掉落的库存、摆动的负载或人靠得太近。
在真实部署中机器人是否使用了动作捕捉或外部跟踪? 没有。在硬件上,策略仅使用板载深度和本体感觉,并从 RGB 进行球的语义分割。没有涉及外部基础设施。
结论
PAC-MAN 表明,人形机器人的全身碰撞避免既是控制问题,也是感知问题。通过将安全屏障与板载传感器实际能够提供的内容相匹配,该框架产生了一个能够零样本躲避真实投掷的机器人。结果是进入人类环境的人形机器人反应性安全的实用蓝图。
你会信任一个学习躲避而不是在每个碰撞处停下的人形机器人吗?
