人类意图往往不足以明确指定机器人动作。RoboPrompt 将稀疏的人类引导转化为动作草案，供下游策略利用其任务感知先验进一步细化。这个过程分为两个阶段。第一阶段使用轻量级引导模型，将点、轨迹和粗略的方向指令转化为连续的动作草案。第二阶段通过下游策略的去噪过程细化这些草案，在人类意图与策略先验之间取得平衡，无需微调策略或更改架构。
系统架构
该系统使用轻量级引导模型将人类输入转化为连续的动作草案，再通过下游策略的去噪过程细化这些草案。
RoboPrompt 能否引导策略实现不同的任务目标？
引导实验使用 Diffusion Policy (DP)、一种未具体说明的策略 和 FastWAM。每种策略都使用包含三种不同任务目标的数据进行训练，因此形成多模态策略分布。RoboPrompt 可在推理时指定期望的任务目标。
在没有引导的情况下，学得的多模态策略对三种有效任务目标表现出不同偏好。某种策略各目标对应的百分比之和不等于 100%，因为部分试验在推理过程中尚未到达任何目标就已失败；这些失败不会计入任务偏好分布。
RoboPrompt 能否通过 DAgger 帮助改进策略？
在不同任务中，改进效果显著。每一轮 DAgger 都会提高任务成功率，同时减少下一轮所需的引导干预次数。这表明，即使策略初始表现一般且需要频繁的人类干预，也能在仅有几轮 DAgger 迭代后逐渐转向完全自主执行。
研究还按照相同的 DAgger 流程，在面包任务上评估了 DP 和 FastWAM，结果趋势一致：增加 DAgger 轮次可以提升任务进度，同时减少部署期间所需的引导。综合来看，这些结果表明，RoboPrompt 让用户能够通过稀疏、直观的引导更轻松地纠正策略行为，同时保留 DAgger 改进策略的能力。
去噪动态如何影响 RoboPrompt 的引导效果？
对于基于流匹配和基于扩散的策略，动作变化并非均匀分布在各个去噪步骤中。少数几个步骤就可能显著改变动作，而去噪程度较高时，最后几个步骤已接近收敛，只会产生细微变化。因此，简单地提高去噪程度，并不能在线性地控制第一阶段动作与基础策略输出之间的过渡。
NA-FRS 会在细化前从第一阶段动作出发，反转策略动态，然后注入受控的随机噪声，从而改变这一行为。反转部分使细化后的动作接近第一阶段草案；噪声部分则使轨迹随着去噪程度增加，逐渐恢复纯噪声去噪的行为。两者结合，可在不同去噪程度之间实现更平滑、近乎线性的动作过渡。
首次使用者能否直观地引导机器人策略？
为评估首次使用者的易用性，研究招募了六名此前没有使用该系统经验的志愿者。经过简短的五分钟介绍后，每位参与者使用未具体说明的 Round-0 烤面包机策略，完成五次面包插入任务试验。研究将他们的平均任务进度和引导次数与有经验的用户进行了比较。
首次使用者取得的任务进度与有经验的用户相当，且显著高于无引导基线，这表明 RoboPrompt 能让新用户直观地引导机器人策略。有经验的用户所需干预更少；对策略的熟悉有助于他们预判并避免失败，而不是等失败后再补救。
轨迹数据质量如何影响策略改进？
研究使用20条成功轨迹比较 DAgger 训练效果，这些轨迹分别通过随机选择（未筛选）或时间加权最优传输（TOT；筛选）选出。两种设置都使用一轮训练，并在三项任务上进行评估。
TOT 筛选后的数据在三项任务中都能带来更高的任务进度。未筛选数据会增加运动抖动，可能导致失败或需要额外干预；因此，仅仅成功执行并不能保证训练数据质量。TOT 能保留更平滑且符合人类意图的轨迹，从而提升策略表现并减少引导次数。
结论与局限
RoboPrompt 是一个利用稀疏、直观的人类输入引导机器人策略的系统。借助扩散和流匹配的特性，它能够让非专家用户直观地引导策略行为，并利用引导执行过程中收集的数据迭代提升策略表现。
该引导方法能够有效引导末端执行器位姿，但目前还不支持控制灵巧型末端执行器，尤其是多指手。第一阶段引导模块不局限于特定的机器人构型或环境。未来工作可以探索使用规模更大、更多样化的数据集进行训练，从而实现在更广泛任务上的零样本引导。
常见问题
RoboPrompt 如何将稀疏输入转化为机器人动作？ 轻量级引导模型会将点、轨迹和粗略的方向指令转换为动作草案。随后，下游策略通过其去噪过程进一步细化这些草案。
RoboPrompt 能否引导策略实现选定的任务目标？ 可以。对于使用包含三种不同目标的数据训练的策略，RoboPrompt 能在推理时指定期望目标。
DAgger 会如何影响人类引导需求？ 在报告的实验中，增加 DAgger 轮次能够提升任务成功率或进度，同时减少后续部署所需的引导。
论文指出了什么局限？ 该方法可以引导末端执行器位姿，但目前还不支持灵巧型末端执行器，尤其是多指手。