D&A 生成的密集进度奖励与丰富语言反馈,可应用于下游的多种策略改进范式。本节概述 D&A 如何加速在线与离线强化学习(RL)以及代码即策略(CaP)——这些正是实验中采用的范式。D&A 是一种通用奖励与丰富反馈框架,也可与其他应用搭配使用。
使用 D&A 改进下游策略

代码即策略
近期对机器人故障分析和反馈驱动优化的观察表明,丰富的语言反馈有助于提升策略表现。本文评估了 D&A 作为开环 CaP 规划器在不同尝试之间提供反馈的来源。
每次尝试时,规划器都会观察初始场景状态并生成代码计划,随后在环境中以开环方式执行该计划。在多次尝试中,规划器会追踪先前的计划和 D&A 反馈;这些反馈用于识别故障模式并提出修正建议。

致谢
作者感谢 Marc Toussaint 和 TU Berlin 学习与智能系统实验室在项目初期提供的讨论,这些讨论促成了本项目。部分工作由 TRI U3.0、Ai2 和跨太平洋人工智能计划(X-PAI)资助;该计划由 Amazon、NVIDIA、华盛顿大学和筑波大学支持。
常见问题
D&A 为下游策略改进提供什么? D&A 提供密集进度奖励和丰富的语言反馈。
这里讨论了哪些策略改进范式? 本文章节概述了在线和离线强化学习,以及代码即策略。
D&A 如何与代码即策略结合使用? 它在不同尝试之间向开环规划器提供反馈,识别故障模式并提出修正建议。
规划器每次尝试时会做什么? 它观察初始场景状态,生成代码计划,并以开环方式执行该计划。
