一种名为 CSF 的免训练安全过滤器，会依据自然语言规则和当前场景检查文本生成的全身动作，并且只修改违反生效规则的动作。研究人员使用四种预训练动作生成器和 Unitree G1 人形机器人进行了测试：当人员成为目标或进入视野时，系统会重定向出拳和踢击动作；如果场景中只有物体，则允许执行相同技能。
目录
研究人员构建了什么？
CSF 是 Contextual Safety Filtering（情境安全过滤）的简称，是一种用于文本生成动作机器人的安全层。动作生成器可能会把“踢球”转化为流畅且符合物理规律的踢球动作。但如果有人站在球所在的位置，相同的身体动作就可能不安全。CSF 通过同时检查所请求的动作以及机器人场景描述中出现的物体或人员，来弥补这一缺口。
该过滤器使用自然语言安全规则和场景实体，判断何时需要启用限制。如果某条规则生效，且生成的动作与规则冲突，CSF 就会修改动作。如果没有适用规则，或者动作已经符合生效规则，过滤器便会放行动作。它不会重新训练生成器，也不会另外添加一个学习得到的安全模型。
研究人员使用四种预训练动作生成器测试了这一方法。他们还将一个基于 ARDY 的生成器、CSF、基于摄像头的场景感知模块，以及一个预训练的 SONIC 跟踪策略整合到真实场景流程中，并部署在 Unitree G1 人形机器人上。在启用和未启用过滤的试验中，生成器和跟踪器保持不变，因此测试可以聚焦于安全层。
主要结果是什么？
论文报告了一项基准测试，旨在分别考察两个问题：场景是否会触发正确的规则，以及在规则适用时 CSF 是否会修正动作。研究人员创建了覆盖六个概念的 28 对不安全与安全指令。每对指令使用三个随机种子；比较时固定指令和种子，只改变场景或是否启用过滤。
| 基准测试细节 | 报告结果 |
|---|---|
| 评估的预训练动作生成器 | 4 |
| 不安全与安全指令对 | 28 |
| 涵盖的概念 | 6 |
| 每对指令使用的随机种子 | 3 |
| 每个生成器的片段数 | 672 |
| 所有生成器的片段总数 | 2,688 |
| 过滤与未过滤片段数 | 各 1,344 |
在 Unitree G1 上，CSF 重定向了面向人员的出拳和踢击动作，包括指令听起来像是针对物体、但场景中实际存在人员的情况。只有物体在场时，规则不会生效，系统会保留所请求的动作。在另一项运行时防护测试中，机器人开始执行面向物体的击打动作后，有人进入了视野；CSF 重定向了剩余动作，没有让击打动作继续完成。
现有论文文本描述了这些结果，但未提供数值化安全率、动作质量得分或计时测量。因此，这些结果支持的是对情境化干预的定性演示，而不是关于 CSF 达到某个特定成功率的数值结论。
CSF 如何工作？
文本条件动作生成器会通过一系列细化步骤生成动作。CSF 不必等到动作完全生成后再检查一次，而是可以在生成过程中检查当前动作估计值。这使过滤器有机会在动作仍处于生成阶段时修正逐渐形成的动作。
对于每条生效规则，CSF 都会根据动作及其语义情境设置一个数学约束。论文将其描述为“仿射语义裕度”：通俗地说，就是衡量当前动作是否符合规则的数值指标。控制屏障函数（CBF）将动作必须保持在该约束安全一侧的要求编码其中。随后，二次规划（QP）这一优化问题会在指定限制下求出最佳调整方案，并在满足约束与贴近生成器参考动作之间取得平衡。
这种平衡很重要。如果过滤器修改每一个动作，可能会降低机器人的实用性，或干扰原本获准执行的技能。CSF 的设计目标是只在生效规则遭到违反时进行干预；如果没有生效约束，就会直接放行动作。论文指出，在其公式设定下，优化问题在每一步都可行，并提供不变性与最优性保证。论文还描述了部署时基于岭回归的优化所对应的残差。
动作生成后，场景情境仍可能发生变化。在硬件运行时防护测试中，当人员进入视野时，感知模块更新了场景实体列表。这一更新触发了人员保护规则，CSF 随即修改了剩余的参考动作，供保持不变的跟踪器执行。
为什么情境过滤对机器人技术很重要？
动作质量和动作许可是两个不同的问题。机器人可以流畅地执行某个动作，却仍然把动作指向错误的物体或人员。CSF 的核心实践思路是：安全性应取决于机器人正在做什么，以及周围有什么，而不能仅因动作在物理上可行就将其视为安全。
只要机器人与人共享空间，或任务含义取决于目标对象，这一区别就很重要。人形机器人可能会被要求击打训练垫、踢球，或在人员附近执行类似动作。情境感知过滤器让系统能够在一种场景中保留获准技能，同时在另一种场景中阻止或重定向该动作。
运行时防护演示对实际部署尤其有参考价值：机器人开始执行任务后，场景仍可能发生变化。如果系统只检查最初的指令或最初的场景，就可能错过这种变化。CSF 的测试展示了一种应对感知更新的途径，无需替换动作生成器或跟踪器。
对于正在评估可采用此类安全层的平台的买家，浏览 Robot Overflow 上的人形机器人。这一方法也体现出更广泛的设计需求：应当结合评估机器人的能力与安全控制，而不是把它们当作彼此独立的功能。
有哪些局限和待解问题？
报告中的硬件试验聚焦于范围较窄的动作——出拳和踢击，以及单一 Unitree G1 流程中的人员与物体场景区分。这些试验展示了一些有用的案例，但尚不能证明该方法在不同机器人机体、复杂工作空间、多样的人类行为或广泛任务中的表现。
所提供的论文文本没有包含定量基准测试成功率、动作质量对比、干预频率或运行时延迟。这些测量有助于操作人员判断过滤器对特定部署是否足够可靠、响应是否足够快。数学保证也取决于论文的约束公式，不应将其理解为能够抵御所有物理危险或感知错误的全面保证。
仍有一些重要的部署问题待解：感知模块识别场景实体的准确度如何？系统如何处理含糊不清的规则？如果场景变化快于系统更新速度，又会发生什么？这些结果展示的是一种前景可期的安全层，而不是对稳健感知、测试或运行保障措施的替代。
关于 CSF 的常见问题有哪些？
CSF 是否需要重新训练动作生成器？ 不需要。CSF 被设计为免训练过滤器，不会改变预训练生成器。
CSF 会阻止所有生成的出拳或踢击动作吗？ 不会。在报告的测试中，当人员触发规则时，过滤器会重定向击打动作；只有物体在场时，则会保留所请求的技能。
如果动作生成后有人出现，CSF 能否作出响应？ 可以。Unitree G1 运行时防护测试在执行过程中更新了场景，并重定向了剩余动作。
这项研究是否提供了数值化安全成功率？ 所提供的文本报告了基准测试规模和定性的硬件测试结果，但没有给出数值化安全率或动作质量得分。
实际启示是什么？
CSF 在文本驱动的动作生成与机器人执行之间加入了一道情境感知安全检查。测试展示了人形机器人如何保留获准动作，同时在人员成为目标或进入场景时重定向类似动作。
在人形机器人靠近人员运行之前，哪些场景应当强制要求使用情境化动作过滤器？