面向交互式机器人环境的高斯场景重建

面向交互式机器人环境的高斯场景重建

Runyi Yang, Deheng Zhang, Xiaoye Wang, Kanzhi Wu, Lei Sun +4 位

1 分钟阅读•2026年9月23日

一种原生支持高斯表示的流程,在保留采集场景未经编辑外观的同时,将选定物体转换为可独立移动的资产。耦合式场景构建将候选对齐与筛选同源高斯移除和背景补全连接起来。在真实场景上的评估涵盖构建可用性、几何与视觉保真度、物理有效性以及操作性能。

引言

本文的主要贡献如下:

  • 一种原生支持高斯表示的流程,在保留采集场景未经编辑外观的同时,将选定物体转换为可独立移动的资产。
  • 耦合式场景构建:利用共享的物体证据,将候选对齐与筛选连接到源高斯移除和背景补全。
  • 面向真实场景的评估,涵盖构建可用性、几何与视觉保真度、物理有效性以及操作性能。

场景观测

场景观测模块以采集得到的高斯表示、经过标定的 RGB 图像和位姿输入为基础,提供物体掩码与观测表面。冻结的 SAM3 生成图像掩码,再通过首个射线交点将其投影到场景表面。这些区域通过体素重叠在不同视角间建立关联,从而获得包含表面采样点、掩码和空间边界的物体实例。

从采集的高斯表示中进行场景观测与物体提取

耦合式场景构建

两个分支共享物体身份,但分别补全不同的缺失内容:物体形状和暴露出来的背景。经过配准的资产还为源高斯移除提供形状支撑。

两个方向都会惩罚缺乏支持的候选表面以及无法解释的观测结果。对 [限制离群点的距离阈值] 进行截断可以抑制离群点,对未观测区域的惩罚也有同样作用。该过程衡量的是与观测结果的一致性,而不是隐藏形状的正确性。

验证、筛选与重试

候选结果首先依据配准、尺度、观测支持、碰撞有效性和独立沉降等构建检查进行排序,随后再参考残差和稳定性标准。如果初始候选均未通过,则在限定范围内测试其他源向上方向,进行一次有界重试。它改变的是对齐假设,而不会重新生成或修复形状。

默认构建器保留数值上有效的最佳候选,并记录尚未解决的检查项。严格模式则会拒绝仍未通过检查的候选,从而将配准重试与拒绝机制的影响区分开来。

交互式环境

经过配准的资产与背景高斯共同构成交互式场景。

碰撞网格决定接触关系,模拟器计算物体位姿,高斯表示则提供相应的视觉外观。在支持的情况下,CoACD 会将补全后的网格转换为凸碰撞组件。除非另行测量,物理参数均来自先验设定。

该过程施加物体的相对运动,同时保留物体与资产之间的初始偏移;它不要求视觉原点与质心重合。共享运动并不意味着视觉表面与碰撞表面完全一致。

对于缩放 [资产缩放因子]、旋转 [资产旋转变换] 和平移 [资产平移向量],高斯均值与协方差会相应变换。

缩放只在构建阶段执行一次,此后物体进行刚体运动。相机、物体和渲染结果使用同一模拟器状态。与视角相关的外观则要求视线方向保持一致。

在本文中,“可用于仿真”意味着场景包含可加载、外观与状态关联的刚体对象,并不保证其物理准确性或任务实用性。

重建高斯场景资产中的定性机器人交互

实验设置

在 [计划试验次数] 次计划试验、[执行次数] 次执行和 [成功次数] 次成功中,对于统计项完整的研究,构建拒绝不会贡献任何成功;缺失的评估则记为未测量。

策略区间采用针对布局、配置和重置的配对分层重采样,而不是将每次重置视为独立重建。

定性结果

耦合式物体与背景构建

转换过程从采集的高斯场景开始,经过源高斯移除和背景修复,最终得到带有物理参数的配准资产。该过程展示了插入资产与被移除的源外观相对应,而背景补全则填补了移除源高斯后暴露出的背景。参数面板列出了分配的物理属性。

外观协调

我们对比了启用和未启用可选 Harmonizer 时的渲染观测结果。不同于构建场景高斯的背景补全,该阶段只修改渲染图像,不改变几何结构或模拟器状态,旨在处理论文中讨论的外观不匹配问题。

重建交互式场景渲染结果的外观协调

讨论

组件证据

实验测试了筛选、配准重试和后端选择;输入研究衡量的是构建质量,而不是发现精度或召回率。源高斯移除、局部三维填充以及与模拟器关联的外观均有定性证据,但没有单独的定量测试。

交互范围

在另一项包含 48 种配置、采用共享修复操作的研究中,自适应上下文修复和固定顺序上下文修复均取得 65/480 次成功,而不修复时为 121/480。条件成功率从 37.8% 上升到 54.2%,但执行次数从 320 次降至 120 次。

此外,在 24 种配置和四种布局中,目标重建使成功次数从 45/240 降至 20/240,同时保留原生关节结构和目标。这些结果揭示了覆盖范围与资产兼容性方面的限制。

上下文修复不同于仅进行对齐重试;策略成功也不能证明真实世界中的动态保真度。

采集与物理范围

探索性的、仅使用 TRELLIS 的 RGB 视频研究从 24 个实例中得到 7 个可加载目标,成功率为 21/70,而参考方法为 53/70;该方法的 170 次试验未进行测量。关联、标定和外观问题,以及失败后对标记估计器的修订,都限制了结果的解读。

该流程假设物体为刚体,物理参数来自先验,并采用局部平面填充。关节结构、可变形物体、已识别动力学、任意隐藏几何形状以及向实体机器人迁移,均不在当前演示范围之内。

结论

我们提出了 φ-RIE:一种原生支持高斯表示的流程,可在保留场景未经编辑内容的同时,将选定物体转换为可移动的模拟器资产。共享的物体证据将资产构建、源高斯移除和背景补全耦合起来,而模拟器位姿则驱动高斯外观变化。

实验表明,在保持率固定的情况下,该方法改善了几何质量;在受控的资产替换测试中,相比单生成器基线,它提升了操作性能,但同时存在视觉保真度方面的权衡。这种耦合让采集得到的高斯场景超越静态渲染,具备物体级交互能力。

生成式人工智能使用声明

OpenAI Codex 被用于协助起草和调试部分实验代码,并在全文中协助进行语言编辑。作者审阅并验证了最终生成的代码和文本。

所有报告结果均来自实际实验运行,并经作者核验;没有任何经验结果数值由 AI 臆造、篡改或合成。

常见问题

φ-RIE 旨在实现什么? 它将采集高斯场景中的选定物体转换为可移动的模拟器资产,同时保留场景未经编辑的内容。

耦合式场景构建如何利用共享的物体证据? 它将候选对齐与筛选同源高斯移除和背景补全连接起来。

本文所说的“可用于仿真”是什么意思? 这意味着场景包含可加载、外观与状态关联的刚体对象,并不保证物理准确性或任务实用性。

哪些限制仍超出当前演示范围? 关节结构、可变形物体、已识别动力学、任意隐藏几何形状以及向实体机器人迁移,均不在当前演示范围之内。