安全是一种贯穿各层的系统属性：它在不同抽象层级上的表现形式会发生变化，但底层目标始终一致。统一框架通过基于风险的城市安全包络，将系统化风险分析与运行时约束结合起来，用于描述自主机器人或车辆能够与环境安全交互的运行条件范围。
引言
机器人正逐步从受控的工业环境进入公共空间，城市移动领域也因此迎来转型。机器人开始驶入城市街道，改变人员、货物和服务的流动方式，并形成三类主要应用场景：
- 人行道自主配送机器人： 这类体积小巧、以电力驱动、大小近似冷藏箱的机器人配备摄像头、GPS 和 LiDAR，以行人速度在人行道上行驶，配送杂货和外卖。
- 自动驾驶汽车与robotaxi： 载客车辆正从试点阶段走向规模化部署，并持续运行。
- 自主道路维护机器人： 机器人可以在夜间巡检城市道路，检测沥青裂缝并立即进行封补。
让这些异构机器人系统与人类共同运行，会带来严峻的安全、运营和监管挑战。每个应用领域都处于不同的城市空间，并采用独特的安全范式，以避免人身伤害、减少冲突。
人行道机器人在人行通道上运行。它们通过极低速度限制动能，并依靠“对所有人让行”的行为树来保障安全。
Robotaxi 是载客车辆，需要严格的多层硬件与传感器冗余，包括摄像头、LiDAR 和雷达，同时配备确定性的安全包络算法。这些系统必须符合严格的行为标准。
道路维护机器人则在高风险、非结构化的施工区域作业。它们依靠实时地理围栏、车联网通信以及主动式传感器清洁机制，避免与迎面而来的交通参与者或附近的人工作业人员发生碰撞。
然而，安全并不是某个单一软件组件的静态属性。相反，它是一项系统级特征，会随着信息和决策在系统设计的不同层级之间流动而不断演化。
例如，在符号层，行人被表示为弱势道路使用者；在轨迹规划过程中，他被表示为动态障碍物；在控制层，则被表示为具有位置和速度的运动物体。虽然这些表示方式各不相同，但它们都指向同一个安全目标：防止与行人发生有害交互。
城市安全包络
安全的城市移动需要一种广泛而通用的框架，在危险情形形成之前维持足够的安全裕度。
城市安全包络通过基于风险的流程学习得到。系统并不只采集正常驾驶数据，而是围绕已知的关键安全情形专门生成合成训练场景。每个场景都源自明确定义的资产、暴露模式和风险场景，从而确保生成的数据聚焦于安全裕度正在缩小的条件。
例如，一处城市交叉路口可能包含行人、骑行者、造成视觉遮挡的停放车辆、恶劣天气以及不同的交通密度。通过系统地改变这些因素，仿真可以生成从完全安全到接近安全极限的一系列场景。这使机器学习模型能够观察系统从正常运行逐步过渡到危险状态的过程，而不是只从罕见的碰撞事件中学习。
生成的模型会持续估计当前驾驶情形距离违反预定义安全约束还有多远。如果估计出的安全裕度过小，自主系统便可以主动采取以下措施：
- 降低速度
- 增大跟车距离
- 选择替代轨迹
- 将控制权转交给更高层级的安全控制器
传统风险检测通常要等危险情形出现后才作出反应，而这种方法能够实现预测式安全评估。其目标不只是识别风险，更是判断车辆何时正在接近安全运行边界。
该方法的另一项优势在于可解释性。由于每个场景都源于安全工程流程中明确定义的风险，模型学到的行为可以追溯到风险分析阶段识别出的具体资产、脆弱性和风险场景。这不仅提高了透明度，也为安全验证与认证提供了更有力的工程证据。
分层世界模型中的安全
自主城市移动需要跨越多个抽象层级进行推理。单一的环境表示无法同时支持战略决策、轨迹规划和车辆实时控制。因此，自主系统采用分层世界模型：每一层都以专门的方式表示环境，只保留与自身功能相关的信息。
从安全角度看，每一层都有自己对安全运行的定义。因此，城市安全无法由单一模型表示，而是通过控制层级中多种安全抽象的一致交互涌现出来。
符号安全层
最高层使用符号实体、关系和运行规则表示环境。在这一层，系统关注的是任务目标、交通法规、法律约束和伦理要求，而不是物理几何结构。
安全通过符号约束表达，例如尊重行人优先权、遵守交通信号、避开限制区域以及遵循运行策略。因此，环境被看作由允许和禁止行为组成的结构化网络，而非一个物理空间。
在这种表示中，行人被视为弱势道路使用者，其出现会对自主系统施加行为约束。
安全规则可以表示为实体之间的有向关系，例如 Yield 和 Stop。
空间安全层
中间层将符号目标转换为几何运动规划。环境被表示为空间地图，其中包含自由空间、障碍物、可通行代价以及周围交通参与者的预测运动。
安全通过空间关系表达，包括碰撞概率、最小净空距离、可见性约束和安全轨迹生成。动态物体依据其预测占用区域表示，而不是依据其语义含义表示。
因此，行人不再被视为法律意义上的实体，而是被视为动态障碍物，其未来运动会影响安全路径的选择。
连续环境被离散为网格，以计算安全的几何路径。
动态安全层
最低层负责管理车辆与环境之间的物理交互。在这里，世界通过连续动力学、执行器限制和物理约束来表示。
安全被定义为：在遵守转向、制动、加速度、轮胎—路面摩擦和执行器能力等限制的同时，保持稳定运行。控制器不关注交通法规或导航目标，而是确保指令轨迹在物理上可实现。
在这种表示中，行人被抽象为具有位置、速度和相对运动的移动物体，使控制器能够实时计算安全控制动作。
跨层安全转换
上一节所述的三个世界模型表示的是同一个物理环境，只是抽象层级不同。随着信息沿层级向下传递，安全会从高层符号目标逐步细化为低层物理指令。反过来，真实世界的反馈也会向上传递，更新各层表示，从而实现闭环适应。
这种双向流动确保城市安全包络不会局限于某一层，而是由符号、空间和动态安全约束的一致交集共同形成。
正向转换：从规则到动作
在符号层，安全被编码为任务目标、交通法规、伦理原则和运行策略。例如，在人行横道向行人让行、遵守限速以及避开限制区域。这些规则规定了允许的高层行为，但没有说明如何从几何或物理层面执行这些行为。
空间层将这些符号约束转换为几何安全裕度和无碰撞轨迹。它根据占用情况、净空距离和其他智能体的预测运动来推理环境。
例如，“向行人让行”这一规则可以转化为以下要求：保持至少 0.5 米的横向距离；如果行人在 2 秒内即将到达，则在斑马线前停车。规划器会计算一条满足这些空间裕度的路径，同时优化效率和舒适性。
随后，动态层将规划轨迹转换为物理上可行的控制指令，包括转向、制动和加速，并遵守执行器限制、轮胎—路面摩擦和车辆动力学约束。在此阶段，安全体现为保持稳定，并在规定范围内跟踪参考轨迹。
反馈转换：从执行到感知
传感器测量结果会用实际车辆行为、环境扰动和意外障碍物的信息更新动态模型。更新后的物理模型将偏离预期路径的情况及周围场景变化告知空间规划器。
如果规划器发现原轨迹已不再无碰撞，例如前方车辆突然制动，它就会相应修改几何规划。反过来，持续或显著的偏差还可能触发符号决策的修订，例如中止变道，改为执行安全靠边停车。
这种闭环反馈确保安全能够持续响应不断变化的现实情况。
城市安全包络的涌现
因此，城市安全包络就是贯穿三个层级传播的约束的交集。只有同时满足符号规则、空间无碰撞条件和动态可行性边界，一个状态才是安全的。
通过基于风险的合成场景学习这一包络，自主系统能够预测自己何时接近安全运行边界。由于训练数据围绕已知风险类型系统生成，学习到的模型能够捕捉安全裕度逐步退化的过程，从而在发生违规之前主动介入。
设想一台人行道配送机器人正接近一处有行人的路口。从符号层面看，机器人必须向任何正在穿行的行人让行；从空间层面看，规划器计算出一条在盲角前停车并保持缓冲区的路径；从动态层面看，控制器在电机扭矩限制内施加平滑减速。
如果行人突然出现在比预期更近的位置，传感器反馈就会更新动态状态，促使空间规划器重新计算更紧凑的停车轨迹，控制器也会相应调整制动力。这种持续的交互正体现了跨层安全转换。
总之，这种层级结构让每一层都能使用最适合自身计算职责的抽象进行推理，同时，安全信息的一致传播确保整个系统始终保持安全。
通过 Physical AI Harness 实现运行时安全约束
前文介绍了安全如何在多个抽象层级中表示并逐步转换。然而，要在执行过程中保持安全语义，仅靠正确的感知、规划和控制还不够。当机器学习模型开始实时生成决策时，还需要额外机制，确保其输出始终符合系统设计阶段确立的安全约束。
Physical AI Harness 是一种运行时软件层，负责管理机器人系统中 AI 模型的执行。与主要负责协调软件组件间通信的传统机器人中间件不同，Physical AI Harness 会持续监督 AI 生成的决策，确保这些决策与机器人的物理能力及其运行环境的要求相容。
该框架建立在三种互补机制之上：投影（Projection）、隔离（Isolation）和转移（Transfer），简称 PIT。每种机制分别应对运行时安全的不同方面。
投影
投影会在机器学习模型输出被机器人系统执行之前，对其进行约束。框架不会允许任意动作，而是将预测指令投影到预先定义的可接受行为区域内。
在所提出的城市安全框架中，这一可接受区域自然对应于城市安全包络。只有当转向指令、车辆速度、变道动作或轨迹修改处于依据风险分析和安全包络学习得到的安全裕度之内时，系统才会接受它们。
违反这些约束的指令会在到达控制器之前被修改或拒绝。
因此，投影代表了从学习型决策到物理执行之间的最终验证步骤。
隔离
现代自动驾驶车辆会同时执行众多软件组件，包括感知、定位、规划、通信和控制。机器学习模型经常与这些组件争夺计算资源，可能导致安全关键功能的性能下降。
隔离通过分配专用计算资源并强制执行运行预算，防止 AI 工作负载干扰车辆的关键功能。这种分离能够保持确定性的行为
常见问题
什么是城市安全包络？
它表示自主机器人或车辆能够与环境安全交互的运行条件范围。
为什么要从合成风险场景中学习安全包络？
基于风险的场景将训练重点放在关键安全情形上，并向模型展示安全裕度如何在违规或碰撞发生前逐步恶化。
三种世界模型层级中的安全有何不同？
符号层处理规则和法律约束，空间层处理几何关系与无碰撞路径，动态层处理物理可行性和控制限制。
Physical AI Harness 发挥什么作用？
它会在执行期间监督 AI 生成的决策，确保这些决策符合机器人的物理能力和环境安全要求。