机器人应当能够将已在某个物体上学会的操作技能,复用于一个具有相同功能的新物体,即使二者的几何形状存在显著差异:例如手柄形状不同的马克杯、瓶盖不同的瓶子,或钳口长度不同的钳子。
现有方法通常通过识别语义对应的交互区域或可供性区域来迁移示范。尽管这足以定位大致的接触区域,但这类方法往往无法捕捉操作技能的功能意图:不仅要确定在哪里与物体交互,还要确定如何交互、以何种顺序交互,以及交互过程与物体关节结构之间应保持怎样的关系。
稠密对应能够自然地缓解这一局限,因为它在物体表面之间保留了稠密映射。对于操作任务而言,语义对应决定机器人应当在哪里交互,而几何一致的对应则通过恢复一致的局部几何坐标系,决定这一交互应当如何执行。因此,有效的技能迁移需要同时满足语义一致性与几何协调性,这也促使我们采用稠密对应的建模方式。
我们提出语义锚定对应(Semantic Anchored Correspondence,SemAnCorr),这是一种无需训练的框架。该框架首先锚定具有语义意义的区域,再利用函数映射将这些约束传播到整个物体表面,从而在不同物体实例之间建立稠密对应。通过同时保持语义一致性与几何协调性,SemAnCorr能够恢复迁移示范操作技能所需的局部几何结构,使技能得以在几何形状差异显著的物体之间迁移。
我们在基于 PartNet-Mobility 构建的稠密对应基准上评估 SemAnCorr,并通过真实世界的关节式操作验证其实际效用。实验表明,更优的几何对应能够直接转化为更可靠的零样本操作技能迁移,使技能可以迁移到此前未见过的物体实例上。
总而言之,本文的贡献如下:
- 我们提出 SemAnCorr,一种无需训练的稠密对应框架,将语义锚点选择与函数映射传播相结合,生成同时具备语义一致性和几何协调性的对应关系。
- 我们在 PartNet-Mobility 上构建稠密对应基准,同时评估语义准确性(在哪里交互)与几何协调性(如何执行交互)。
- 我们开发了一套以物体为中心的操作技能迁移流程,利用 SemAnCorr 在不同物体实例之间迁移示范技能,仅凭单次示范即可实现零样本关节式操作。
方法:语义锚定对应
概括而言,所提出的方法首先在每个物体表面识别具有语义意义的部件,然后选取少量在语义和几何上均相互一致的对应部件对,最后将这些对应对作为约束,在整个物体表面平滑传播稠密对应关系。

实证评估
我们在操作数据集和真实世界机器人环境中评估 SemAnCorr,以回答以下两个问题:
- 稠密对应能否在几何形状差异显著的物体实例之间,同时保持语义一致性与几何协调性?
- 更高质量的对应关系能否转化为更可靠的零样本操作技能迁移?
在全文中,我们通过将平滑的颜色渐变从源物体传递到目标物体来可视化对应关系:平滑过渡表示映射在几何上保持协调,而破碎的图案则表示空间上的不一致。
评估指标
评估指标针对具有有效语义标签的目标顶点,衡量对应关系的质量。

基线方法
我们选取了 4 种具有代表性的基线方法,涵盖基于几何和基于语义的对应方法。
- FM-WKS 使用波核签名(Wave Kernel Signature)描述子估计函数映射对应关系,完全依赖内在几何结构而不包含任何语义信息,用于体现语义特征所带来的贡献下界。
- Robo-ABC 利用预训练视觉特征,在二维图像空间中建立像素级语义对应。我们为每个网格渲染 8 个视角,选取置信度最高的二维匹配,再将其提升到三维空间。该方法代表了将二维语义对应应用于三维物体的一类方法。
- D3Fields 将多视角渲染中的 DINOv2 特征提升到三维,为每个顶点构建三维描述子,并在特征空间中进行最近邻匹配。该基线在采用相同三维特征提升策略的前提下,用于单独考察函数映射传播相较于最近邻匹配的贡献。
- DenseMatcher 将 SD-DINO 特征与学习得到的 DiffusionNet 优化器及函数映射相结合。我们评估其在 PartNet-Mobility 类别上的泛化能力。
跨类别泛化
许多操作技能天然可以在语义相关的物体类别之间迁移。因此,我们评估 SemAnCorr 能否跨越类别边界进行泛化,以及该流程能否提供一种轻量信号,用于判断跨类别泛化的兼容性。
我们进一步研究了计算得到的语义锚点置信度是否能够作为衡量物体间兼容性的轻量信号。这一信号或许可以帮助估计某项示范技能是否可能迁移,而无需额外训练分类器。由于语义锚点置信度是本文方法引入的新指标,因此没有可直接比较的基线用于这项分析。

物体类别之间的平均锚点置信度在对角线上最高,对应于同类别物体对;在功能相关的类别之间也保持较高水平,例如容器类(瓶子、水壶、水桶、垃圾桶)、手持工具类(刀、钳子、剪刀)以及家电类(微波炉、洗衣机)。相比之下,功能或几何相似性较弱的类别组合通常会获得较低的置信度分数。
这些趋势表明,锚点置信度捕捉的是一种语义与几何兼容性,而不仅仅是类别身份。尽管该分数并非操作成功率的直接度量,但它可以作为一种轻量先验,用于判断泛化兼容性。

结论与未来工作
我们提出了语义锚定对应(Semantic Anchored Correspondence,SemAnCorr),一种用于构建稠密对应的框架,能够在不同物体之间同时保持语义一致性与局部几何协调性。通过基准测试和真实世界操作实验,我们表明,这两种性质对于在几何形状差异显著的实例之间可靠迁移技能都是必不可少的:语义一致性决定在哪里交互,而几何协调性决定如何交互。
未来的工作包括将对应关系建模扩展到双手操作和灵巧操作场景,在这些场景中,多个接触点必须始终保持几何一致。除零样本技能迁移之外,SemAnCorr 还可能用于为学习型操作策略提供数据引导。成功执行的操作可以迁移到此前未见过的物体上,以生成额外示范,这些示范可作为微调操作策略的监督信号,从而减少反复进行人工数据采集的需求。
常见问题
什么是 SemAnCorr? SemAnCorr 是一种无需训练的框架,通过锚定具有语义意义的区域,并利用函数映射将这些约束传播到整个物体表面,在不同物体实例之间建立稠密对应关系。
为什么几何协调性对技能迁移很重要? 语义一致性决定机器人应当在哪里交互,而几何协调性则通过恢复一致的局部几何坐标系,决定这一交互应当如何执行。
SemAnCorr 能否跨物体类别工作? 可以。锚点置信度在同类别物体之间最高,但在功能相关的类别之间也相对较高,例如容器、手持工具和家电。
这项工作的未来方向是什么? 未来的工作包括将对应关系建模扩展到双手操作和灵巧操作,并利用 SemAnCorr 为学习型操作策略引导数据生成。
