我们提出 HM3D-MFMON。该基准包含来自 36 个多楼层 HM3D 场景的 927 个三目标任务片段,其中 288 个为必须跨楼层的任务片段;同时,我们提出了一套用于多实例序贯导航的事后评估协议。
LifelongCrossNav 在闭环系统中统一了支持感知三维体素建图、持久化视觉语言记忆、楼梯感知导航和历史语义检索。
实验表明,与持久化平面语义记忆基线相比,该方法在多目标及跨楼层导航方面表现更优;此外,History POI 能够提升后续目标物导航的路径效率。
任务定义
在一个任务片段内,LifelongCrossNav 会在不同目标物之间保留三维几何地图、楼梯状态以及与目标无关的视觉语言体素特征。当下达新的目标物指令时,系统会重新计算其文本嵌入和由查询条件决定的相似度场,而与上一目标物相关的 POI、导航路径和目标验证状态则会重新初始化。

支持感知三维体素建图
LifelongCrossNav 使用稀疏三维体素地图表示环境。与平面投影不同,这种表示保留了高度信息,能够区分在垂直方向重叠的房间、走廊、楼梯平台和楼梯。受可通行性感知光线投射方法的启发,该地图结合 RGB-D 几何、垂直支撑关系和楼梯语义证据,表示楼层之间可执行的连通关系。
RGB-D 投影与稀疏体素化
有效深度像素首先被反投影到相机坐标系,再利用六自由度相机位姿变换到世界坐标系,并量化为稀疏体素。深度射线终点提供观测到的表面证据,射线中间位置则提供自由空间证据。系统只存储已观测体素和局部推断出的导航状态,使地图能够随着探索区域扩展而逐步增长。
支持感知体素类型
导航地图将观测到的空间抽象为四种功能性体素类型:Occupied、Traversable、Stair 和 Unsupported。
Occupied 体素表示观测到的表面,包括墙壁、家具、地板,以及尚未确认的楼梯候选区域。对于每个由射线观测到的自由空间体素,系统会在局部垂直范围内向下搜索。具有可靠支撑的自由空间被归类为 Traversable;没有观测到支撑的自由空间则被归类为 Unsupported,并为潜在的向下过渡提供几何证据。
Stair 体素表示经语义和几何观测共同确认的楼梯表面。SegFormer-B2 提取像素级楼梯掩码,系统结合深度和相机位姿将其提升到三维空间,并通过局部高度变化、台阶趋势、空间连续性和支撑关系进行验证。只有在系统进入 Stair Explore 后,楼梯体素才会更新;此时它们构成楼层之间明确的可通行连接。
统一导航策略
统一策略从 Basic Frontiers、Stair Frontiers、History POIs 和 Live POIs 中选择导航目标。这些候选点支持三种导航模式:Basic Explore、Stair Explore 和 POI Navigation。

导航候选点
Basic Frontiers 表示普通探索阶段使用的三类平面候选点:
- Traversable Frontiers:位于 Traversable 体素与未知空间的边界。
- Descend Frontiers:从 Traversable 体素与 Unsupported 体素的边界附近提取,表示潜在的向下过渡。
- Ascent Frontiers:由楼梯语义证据、RGB-D 台阶几何和多帧一致性共同生成;其导航位置仍位于当前探索平面上,并靠近潜在的向上入口。
Stair Frontiers 是从当前已确认的楼梯体素簇中提取的、具有方向感知能力的推进边界。它们的高度会随观测到的楼梯变化,使智能体能够在楼梯结构内部继续向上或向下探索。
分层模式切换与三维规划
可靠的当前目标证据和可到达的 POI 优先级高于未探索的几何候选点。当不存在有效语义候选点时,Basic Explore 会首先访问当前楼层的 Traversable Frontiers。只有在不存在可到达的普通前沿后,系统才会考虑 Descend Frontiers 和 Ascent Frontiers。
楼梯入口得到验证后,策略会激活 Stair Explore,并沿 Stair Frontiers 前进,直到抵达新的楼梯平台。激活的楼梯会话会持续掌控导航,从而避免普通前沿或无关语义候选点打断楼梯通行。
所有模式都使用统一的三维 A* 规划器,但允许使用的体素类型和图连通关系不同。Basic Explore 在当前可通行区域上使用严格的 26 邻域图。POI Navigation 使用常规图;当所选 POI 位于另一楼层时,还会使用此前建立的楼梯连通关系。Stair Explore 允许使用已确认的 Stair 体素,并在固定物理半径内扩展终点邻域,以连接体素地图中可能较为稀疏的楼梯观测。
最终目标物接近与验证
获得稳定的目标物证据后,系统会将检测掩码投影到三维空间,并选择附近安全的观测位置。在接近过程中,系统持续更新检测结果,并依据检测置信度、掩码质量、可见性、观察方向和三维距离验证目标物。
抵达 History POI 或 Live POI 并不意味着子任务自动完成;当前目标物的观测仍必须通过验证标准。验证成功后,系统激活下一个目标物,同时保留几何地图、楼梯结构和与目标无关的语义记忆。若验证失败,系统会返回候选点选择阶段并继续探索。
HM3D-MFMON 基准
我们基于 HM3D v0.2 及其语义标注构建 HM3D-MFMON。HM3D 提供带语义标注的室内场景,具有真实的多楼层布局和可导航的楼梯连接,同时兼容既有的 Habitat ObjectNav 协议。
遵循 MultiON 的序贯任务定义,每个任务片段包含三个依次发布的目标物指令。智能体只能获得当前目标物指令;只有成功完成当前目标物子任务后,才会获知下一个目标物。
HM3D-MFMON 包含六类目标物:
- Chair
- Bed
- Toilet
- Plant
- Sofa
- TV monitor
当前目标物类别的所有有效实例都会被保留;抵达任何满足成功标准的实例,即可完成相应子任务。
我们选择了 36 个具有有效多楼层结构和楼梯连通性的 HM3D 场景,并生成 927 个三目标任务片段。通过核验目标实例分布和可导航连通性,我们确定了一个必须跨楼层(Cross-Floor-Required,CFR)子集,共包含 288 个任务片段;这些片段的完整目标物序列若不至少进行一次楼层转换便无法完成。
基线与评估设置
多目标导航
对于序贯多目标导航,我们将 OneMap 作为主要基线,因为它维护一个可在连续目标物之间复用的持久化开放词汇二维语义地图。OneMap 和 LifelongCrossNav 均在上述相同任务及评估设置下进行测试。
为隔离历史语义检索的作用,我们另外评估了名为 w/o H-POI 的变体。该变体仅关闭 History POI 的生成,同时保留支持感知三维体素地图、累积视觉语言特征以及全部跨楼层导航组件。
结论
我们提出 LifelongCrossNav,用于未知多楼层环境中的序贯多目标 ObjectNav。LifelongCrossNav 将支持感知三维体素建图、跨目标物持久化的视觉语言语义记忆,以及统一的平面探索与楼梯导航策略结合起来,使智能体能够综合利用垂直结构、跨楼层连通性和历史语义观测。
我们还提出 HM3D-MFMON 基准,以及一种基于每个目标物子任务实际起始状态的事后分阶段评估协议。实验结果表明,在完整多目标基准和必须跨楼层子集上,LifelongCrossNav 均持续优于平面持久化语义建图基线。消融实验显示,History POI 能够减少重复探索,并提升后续目标物的导航效率。未来工作将研究真实世界部署和更稳健的跨楼层导航。
技术补充
本补充材料给出主论文中省略的配置、体素状态定义、导航模式细节、类型感知规划规则以及额外的分阶段评估结果。
支撑分类
因此,TRAVERSABLE 表示普通表面或可逆表面上方、具有支撑的自由空间;TRAVERSABLE_STAIR 表示由已确认楼梯几何支撑的自由空间。
相比之下,TRAVERSABLE_FAKE 表示观测到的自由空间,但在支撑搜索深度内没有找到有效支撑。因此,它不应与 FAKE_STAIR 混淆:后者是可逆表面状态,而不是无支撑的悬空状态。
楼梯状态提升
在 Basic Explore 期间,SegFormer 掩码和 RGB-D 几何可能产生上行或下行证据,但普通 OCCUPIED 体素不会立即被改写为已确认的楼梯。抵达并验证相应楼梯入口后,控制器才会进入 Stair Explore,该模式实现为 StairSem 模式。
在 StairSem 中,已接受的表面体素会提升为 STAIR;相邻的 Occupied 单元可能变为 STAIR_EXPANDED;被拒绝的证据则保留为 FAKE_STAIR。随后,系统会在局部范围内重新分类依赖支撑的空中体素。
这种延迟提升机制可避免普通探索阶段收集的不确定楼梯观测直接改变跨楼层规划图。
候选点优先级
控制器考虑四类主要候选点:
- Basic Frontiers
- Stair Frontiers
- History POIs
- Live POIs
它们的默认选择优先级由控制器的候选点选择策略决定。
这里,Basic Frontiers 统称普通探索阶段使用的 Traversable、Descend 和 Ascent Frontiers:
- Traversable Frontier:受支撑 TRAVERSABLE 体素与真正未知空间之间的边界。
- Descend Frontier:受支撑可通行空间与无支撑或伪楼梯几何之间的边界。
- Ascent Frontier:面向向上楼梯的语义—几何入口候选点。
控制器首先探索当前楼层上可到达的 Traversable Frontiers。只有在不存在可到达的普通前沿后,才会考虑 Descend 和 Ascent。默认情况下优先尝试 Descend,再尝试上行;但该顺序可根据最近一次成功的楼层转换方向进行调整。
选定的候选点会在短暂宽限期内保持锁定,以避免增量地图更新导致目标频繁切换。因此,锁定机制是一种稳定性机制,而不是额外的候选类别。只有当候选点失效、不可到达,或被更高优先级的 POI 取代时,锁定目标才会更换。
常规图
Basic Explore 和 POI Navigation 使用 26 邻域图。启发式函数是当前体素到目标的三维欧氏距离。
该启发式函数估计当前体素与目标之间的直线度量距离。
代价由目标体素状态决定。
目标状态代价会惩罚可靠性较低或经过膨胀的体素状态,同时保留通往已确认楼梯几何的路径。
这些惩罚有利于稳定的受支撑空闲空间,同时保留通往已确认楼梯几何的通路。FAKE_STAIR 仅作为高代价的后备选项,绝不会被选为导航终点。
普通规划优先使用未膨胀体素。当某种模式明确允许使用膨胀的可通行终点时,其转移代价会乘以二。如果智能体已经处于膨胀的可通行区域内,规划器可以暂时保留膨胀状态,以便智能体离开该区域;随后恢复严格规划。
StairSem 图
稀疏 RGB-D 观测可能导致连续楼梯表面之间出现大于一个体素的间隙。因此,StairSem 用半径为 1.0 米的物理球体内所有现存可通行终点替代固定的 26 邻域关系。该邻域在度量三维空间中定义,而不是通过固定体素偏移定义。
必要时可以使用膨胀的 TRAVERSABLE 和 TRAVERSABLE_STAIR 终点;但会拒绝膨胀的 STAIR、STAIR_EXPANDED 和 FAKE_STAIR 终点。
如果最终 Stair Frontier 暂时不可到达,系统会按照垂直推进程度从高到低,依次尝试会话内的中间楼梯目标。
扩展图针对不完整的楼梯观测而设计,因而具有一定的宽松性。它会验证每条边所存储的端点,但不会声称对长边上每个中间采样点之间的连续扫掠体积碰撞进行认证。
基准概览
HM3D-MFMON 包含来自 36 个多楼层 HM3D 场景的 927 个三目标任务片段。最终的必须跨楼层(Cross-Floor-Required,CFR)子集包含 288 个任务片段,其完整目标物序列至少需要一次楼层转换。
第一次必需的楼层转换分别发生在第一个、第二个和第三个目标物子任务中的任务片段数量为 102、101 和 85 个。
事后分阶段最短路径
对于任务片段 e 的第 i 阶段,最短路径分母会根据该轨迹段的实际起点重新计算。
分母是从该轨迹段的实际起始状态到所请求目标物类别任一实例的有效观测点之间的最短可导航路径。
有效观测点包括属于所请求目标物类别的所有实例的可导航观测点。
令 Sᵢ 表示阶段成功,令 Lᵢ 表示实际执行的轨迹长度。
分阶段 SPL 将阶段成功率与最短有效路径长度和实际执行轨迹长度之比结合起来。
该事后协议不要求智能体预先知道未来目标物,也避免在前一目标物实际完成位置尚未知晓时,提前固定后续阶段的最短路径。

History-POI 消融边界
w/o H-POI 变体仅关闭 History-POI 的生成和选择。它仍保留持久化 SED 特征地图、累积特征融合、Live POI、支持感知体素建图、楼梯感知和跨楼层规划。
因此,该消融实验衡量的是显式历史语义检索的贡献,而不是移除完整的语义记忆表示。
必须跨楼层任务片段上的总体结果
CFR 结果揭示了未解决楼层转换的影响。如果 OneMap 能够抵达第三个目标物,那么它的前两个目标物已经在无需楼层转换的情况下完成。
常见问题
LifelongCrossNav 旨在完成什么任务? 它面向未知多楼层环境中的序贯多目标导航,并在不同目标物之间保留几何、楼梯和语义信息。
HM3D-MFMON 基准包含哪些内容? 该基准包含来自 36 个多楼层 HM3D 场景的 927 个三目标任务片段,其中 288 个任务片段至少需要进行一次楼层转换。
LifelongCrossNav 如何表示多楼层环境? 它使用稀疏的支持感知三维体素地图,区分 Occupied、Traversable、Stair 和 Unsupported 区域。
w/o H-POI 消融实验测试什么? 该实验关闭 History-POI 的生成和选择,同时保留持久化语义特征、Live POI、楼梯感知和跨楼层规划。
