前沿 LLM 智能体展现出直接生成机器人操控动作的非凡能力。通过反复试错,它们持续更新技能、生成代码并使用工具,从而提升操控能力。我们将这一过程称为物理递归自我改进,即 physical RSI。本文并非进一步展示前沿 LLM 智能体的能力,而是探讨三个根本问题:物理 RSI 能力从何而来?这一过程受哪些缩放规律支配?由此产生的提升反映的是过拟合还是泛化?
智能体如何将物理反馈转化为更好的策略?感知帮助它解读结果,空间推理将观察与行动联系起来,编程和 Harness 使用能力则让它能够实施并测试修订。这些能力可能发挥不同作用。我们要探究的是:促成良好首次尝试的优势,是否也能解释收到反馈后的改进?
我们推出 PhysRSI-eval,在统一协议下研究这些问题。六个系统在 18 项操控任务中持续修订代码、工具和笔记,同时保持模型权重冻结,并采用固定的物理交互预算。Gemini 4 的结果单独报告,涵盖十项任务。
对这 18 项任务中四种公开能力画像的探索性比较发现,空间推理与初始表现的关联最强,而感知与最终表现及恢复能力相关。这一模式促使我们提出物理木桶假说:限制智能体的能力可能取决于我们衡量改进的哪个方面。良好的起步与从失败中学习,或许需要不同的优势。这些关联提示了可能的瓶颈,但并不能证明因果关系或必要条件。
PhysRSI-eval:基准设计
PhysRSI-eval 通过记录每次物理尝试以及尝试之间沿用的工作区,使这三个问题变得可测量。尝试序列揭示智能体的起点,以及它在固定预算下的进展情况。对工作区进行干预,则可以检验智能体保留了什么,以及这些内容能否迁移。

基准需要区分什么?
良好的首次尝试与有效修订是两种不同的能力。因此,我们单独评估首次尝试基线,并在固定预算下追踪后续尝试。逐轮得分显示提升何时发生;计入预算的物理步骤则显示其代价。达到高分、尽早达到高分以及减少交互次数,是彼此独立的结果。
仅凭成功与否,无法判断智能体是否积累了有用经验。代码、工具和笔记必须保持可供干预。清空工作区可以检验留存经验是否有帮助;在未见过的布局上冻结工作区,可以检验其是否仍然有用;将其迁移到新任务,则可以检验它能否支持不同目标。我们在第 6 节将这些测试与主要画像分开报告。
受控的物理尝试循环
模型权重保持不变,但技能、工具、策略代码和记忆可以在持久工作区中改变。每次修订都通过一次经评测的物理尝试进行测试。这样便能将工作区的变化与观察到的结果及其物理代价联系起来。
K0 在没有持久工作区的情况下测量起点。每项任务通过共享机器人工具运行三次,并对得分取平均值。在 K1 阶段,智能体获得一个 Harness 工作区,其中除宿主提供的只读工具外不含其他内容。每轮执行一次物理尝试,并返回原生得分、成功标记和失败原因。随后,智能体在禁用机器人动作的情况下修订工作区,并提交修订内容供下一轮使用。主要评估中,每项任务最多允许 一个固定但未明确说明的优化轮数,并在首次原生成功时停止。
两个阶段共用同一机器人接口。K1 还引入了工作区工具和程序执行,因此 K0 到 K1 的提升同时包含接口变化与能力改进。因此,我们将 Harness 各轮视为自我改进阶段加以研究。每轮允许 4,200 秒的推理时间;GPT 系统的修订最多需要 1,800 秒,Claude 系统则最多需要 600 秒。
在汇总时,成功任务在停止后保留得分 1,不再继续执行。未成功任务保留当前得分,包括退步情况。额外尝试计入物理预算,但不增加评分轮数。九条 GPT-5.6 Sol Harness 记录汇总了两次观察到的运行结果。三次重复的 K0 协议适用于全部六个系统。
不同难度级别的任务
我们评估六个系统:GPT-6 Astra、GPT-6.1 Sol、GPT-6 Sol、GPT-5.6 Sol、Claude Opus 5.5 和 Claude Sonnet 5.5。每个系统由一个模型及其运行时配置构成,运行时配置也会影响性能。在一项未提供额外提示的独立实验中,Astra 解决了 13 项任务,而主要评估中解决了 15 项。不同条件下的结果分开报告。
Gemini 4 的结果在一项独立的部分运行中报告,涵盖十项任务并进行至 K20,其中六项得到解决。其报告的平均得分为 K0 时 0.050,K10 时 0.48。其五轴画像基于这十项任务计算。由于任务集不同于主要的 18 项任务协议,因此不纳入基于基准的关联分析和预测分析。
改进的五轴画像
要研究物理 RSI 如何缩放,仅看终点得分还不够。五轴画像将起点与增益出现时机、最终得分、物理预算节省和失败恢复能力区分开来。每个轴衡量改进的不同方面。
智能体首次尝试时表现如何?首次尝试得分是 K0 平均得分:先对每项任务的三次运行取平均,再跨任务汇总,其中包括部分进展。
物理 RSI 能力从何而来?
是什么让物理反馈转化为有用的策略修订?执行动作、解读结果和实施改变,可能依赖不同能力。我们利用五轴画像,探究与良好首次尝试相关的能力,是否也与有效改进相关。
哪些能力与物理 RSI 相关?
仅有较强的编程得分,并不保证物理层面的改进。GPT-5.6 Sol 在 LiveBench 代码生成和补全方面超过 GPT-6 Astra,但它在 18 项任务中仅解决了一项,而 Astra 解决了 15 项。
探索性分析使用六个系统在全部 18 项任务上的结果。我们将 17 项公开基准分数归入空间、Harness、感知和编程四类,再将它们的排名与 A1–A5 进行比较。
物理木桶假说
这一模式促使我们提出物理木桶假说:改进的不同方面可能存在不同的能力瓶颈。空间推理可能对良好起步最为重要,而感知对解读失败和从失败中恢复可能更为重要。根据这一假说,强大的编程能力并不总能弥补其他方面的不足。编程能力关联较弱,并不意味着编程不必要;这里所有系统都使用了代码。
这些关联揭示了可能的瓶颈,可通过有针对性的能力干预直接检验。
这些候选瓶颈引出了第二个问题:如何量化物理 RSI,以及它如何随模型能力和交互预算而缩放?

如何量化物理 RSI 及其缩放规律?
智能体能提升多少、主要提升何时发生,以及需要多少交互?五轴画像将这些问题转化为可测量的结果。我们先量化不同智能体之间的差异,再研究这些结果如何随模型能力和物理交互预算而缩放。
跨模型能力的观察性缩放
公开的能力得分能否在完整评估之前预测物理改进?这是观察性缩放中的跨模型问题。除了将能力与结果相关联,预测器还必须仅凭其他系统中观察到的关系,对一个未见过的系统进行定位。
早期物理反馈能预测什么?
物理交互开始后,早期进展能否预测后续提升?六个系统达到高分阶段的时间各不相同。首次达到峰值增益 90% 的轮次,Astra 为 K9,GPT-6.1 Sol 为 K7,Opus 为 K15,Sonnet 为 K13,GPT-6 Sol 和 GPT-5.6 Sol 均为 K17。预测后续轮次,可以检验短期轨迹是否包含有关持续改进的有效信息。
这些分析探讨了改进幅度与时机。接下来,我们要问这些增益代表什么:是对优化设置的适应,还是在其他地方仍然有用的经验?
物理 RSI 反映的是过拟合还是泛化?
在模型权重固定的情况下,泛化关注的是智能体保留的代码、工具和笔记。它们编码了可复用的流程,还是逐渐适应了优化设置?我们先检验留存经验是否有助于反复尝试之外的任务,随后在未见过的布局上评估冻结的工作区,并将其迁移到新任务。
留存经验是否有助于反复尝试之外的任务?
其余条件会分别移除某些信息通道。移除评分器反馈造成的下降最大,得分降至 5/36(13.9%);移除前几轮图像后,得分降至 12/36(33.3%)。仅保留工作区和评分器反馈时,得分为 17/36(47.2%),这说明在保留这两个通道后,过往图像和动作记录几乎没有额外作用。无历史记录的对照支持留存经验发挥作用,但尚不能说明这种经验是否仅适用于优化设置。
停止修订后,哪些内容仍然有效?
为检验存储的产物能否在练习之外发挥作用,我们在 K6 后冻结 Astra 工作区,并在五种未见过的布局上测试每个工作区,不再进行修订或提供结果反馈。对 12 个来源而言,仅靠工作区文件便在 25/60 次测试中成功(41.7%)。加入先前的原始记录后,成功次数为 23/60(38.3%)。存储的产物在布局变化后仍然有用,而这些点估计表明,测试时提供原始历史记录并未带来益处。
固定布局的来源工作区在留出布局上达到 27/60(45.0%),而在其自身布局上的报告结果为 14/16(88%)。由于分母不同,无法进行配对比较。不过,这一对比表明,场景特定的增益与可迁移经验可以并存。这些测试证明,在这一任务子集中,Astra 的经验对跨场景任务有一定效用;但不能据此证明所有系统都能泛化。
经验能否帮助完成不同任务?
五个模型的轨迹表明,可复用经验有两种形式:可执行例程和文本形式的操作知识。Sonnet 5.5 和 Opus 5.5 越来越多地将控制逻辑写入自有工具;在后续轮次中,这些工具生成了超过 96% 的动作。GPT-6 Sol 也构建了大量工具,但工具生成了 67% 的动作,模型直接生成了 33%。这些比例衡量的是对工具的依赖程度。
Astra 和 GPT-6.1 Sol 则呈现出不同模式。它们约 99% 的动作仍由模型直接生成。它们只使用极少量工具进行验证,但推理时间随轮次增加而减少。文件访问轨迹显示,它们会反复使用记忆、技能和策略笔记,以找回成功动作和子任务解法、诊断失败并指导修订。这些观察表明,可执行例程与留存的操作知识都可能减少重复推理。
我们还发现,工作区分析和泛化分析的结果与物理 RSI 木桶假说的四个能力因素相符:空间推理、感知、编程和 Harness 操作。空间工具占 Sonnet 工具调用的 14.5%,占 Opus 的 13.7%;两者分别有 408/2,819 次和 183/1,332 次调用。Astra 仅进行了七次工具调用,其中一次调用了此类工具,即 14%。Astra 对这些模块依赖极少,表明其内在感知和空间能力更强。Sonnet 和 Opus 会在不同任务间反复复用这些模块,这表明它们更依赖工具来弥补相关能力的不足。
在跨任务迁移过程中,智能体也会查阅语义相近任务中的记忆和技能。在 Organize Table 任务中,Opus 将 Pack Objects Into Box 中的参数化移动工具与 Store Tools In Toolbox 中的记忆结合起来:“PITCHED 30 deg 抓取……可以够到 +y 的一半……”工具提供操作方式,而记忆指出哪种抓取朝向能够扩大其触及范围。这说明,可复用流程与关于其适用条件的知识可以共同支持迁移。
迁移轨迹表明,性能提升取决于经验是否与目标任务的瓶颈相关,以及智能体能否根据失败证据判断经验是否适用。语义相似性有助于找到候选经验;失败证据则指导智能体决定复用、调整还是放弃。引言图通过两个例子展示这一机制:将用于堆叠积木的闭环抓取与转移动作流程,复用于用杯子盖住积木;以及将插入钥匙的流程,复用于插入充电器。
局限性
主要比较涵盖六种模型与配置的组合系统,每项任务仅有一条改进链。K0 的重复运行无法估算完整链条之间的变异性。首次成功停止机制只记录一次成功;可靠的重复执行需要单独测试。预算和改进指标使用的条件任务集因系统而异。Astra 在主要评估与未提供额外提示的实验中的结果也有所不同。
能力分析依赖评估设置与我们的运行不同的公开基准得分,且仅涵盖六个系统,没有独立验证。因此,能力瓶颈和增益时机预测仍是待检验的假设。消融测试和冻结测试仅涵盖 Astra 和六项任务,跨任务结果则是三种首次运行案例。这些局限限制了观察到的迁移现象及其可能推断机制的适用范围。
结论
PhysRSI-eval 在固定交互预算下研究物理 RSI 的起源、测量、缩放和泛化。能力关联促使我们提出物理木桶假说:良好起步所需的优势,可能不同于改进所需的优势。五轴指标将这些结果明确区分开来,并表明高分、提前取得增益和高效交互未必同时出现。跨模型预测和早期轮次预测,探查这些结果如何随能力和交互预算变化。工作区干预支持留存经验发挥作用,并表明经验在新布局和新任务中仍可能有用。因此,物理 RSI 既可能涉及针对特定场景的适应,也可能涉及可复…
常见问题
什么是物理递归自我改进? 这是智能体通过反复试错、更新技能、代码和工具来提升操控能力的过程。
PhysRSI-eval 旨在衡量什么? 它衡量智能体在多次物理尝试中的初始表现和改进,同时测试智能体保留了什么,以及这些内容能否迁移。
物理木桶假说提出了什么? 物理改进的不同方面可能存在不同的能力瓶颈;空间推理对良好起步可能更重要,而感知对解读失败和恢复可能更重要。
留存经验能否泛化到反复尝试之外? 本文报告的测试中,冻结的 Astra 工作区在未见过的布局上仍然有用;跨任务迁移轨迹也显示,工具和操作知识得到了复用。
