LabVLA:将视觉-语言-动作模型引入实验室自动化

LabVLA:将视觉-语言-动作模型引入实验室自动化

Baochang Ren, Xinjie Liu, Xi Chen, Yanshuo Liu, Chenxi Li +13 位

1 分钟阅读•2026年6月13日

研究人员构建了LabVLA,一个视觉-语言-动作模型,让机器人能够理解和执行复杂的科学实验流程,如倒液、按按钮和转移烧杯。该模型基于RoboGenesis生成的数百万合成演示进行训练,在六项实验室操作任务中取得了最高成功率,并可直接迁移到真实台式机器人上——这向自动化日常实验室工作迈出了重要一步。

目录

研究者构建了什么

RoboGenesis环境组装截图,显示实验器具、瓶子和机械臂

团队构建了三个紧密集成的组件。RoboGenesis是一个可编程的数据引擎,能从3D资产库中构建经过验证的实验室场景,然后生成长时序操作流程(如抓取、倒液、搅拌、加热),无需手动硬编码。它使用成功检查器和碰撞监视器,确保只导出物理上有效的片段。

LabEmbodied-Data是生成的带注释的成功运行语料库,每个演示都保留了实验协议的完整结构,而不仅仅是孤立的图像-动作对。这种结构化数据是下游VLA训练的基础。

LabVLA是视觉-语言-动作策略本身,基于Qwen3-VL语言模型构建。它使用FAST动作标记预训练从视觉历史中预测未来动作,然后通过流匹配后训练优化连续机器人指令。训练过程中的“知识隔离”设计防止语言骨干网络过度拟合特定场景,迫使模型推理通用的实验室操作。

该系统在LabUtopia模拟基准上运行,该基准程序化生成多样化的实验室布局,并在物理Franka机械臂上对四个真实世界任务进行了测试。

关键成果

LabVLA在分布内(ID)和分布外(OOD)设置下每项任务评估了120个片段。OOD测试改变了物体位置、外观或场景布局,以测试泛化能力。

  • LabVLA在ID和OOD条件下均取得了最高平均成功率。
  • 最大的挑战仍然是倒液体——这是LabVLA唯一尚未达到人类可靠性水平的类别。
  • 所有基线方法(包括基于CLIP的策略和早期VLA模型)在其他任务上均被超越:抓取实验器具、按按钮、开门、加热烧杯和转移烧杯。
  • 在物理Franka机械臂上,模拟预训练的LabVLA无需微调即可成功迁移到真实台式操作,证实了合成数据可以泛化到真实世界。

没有基线方法能接近LabVLA的OOD性能,这凸显了RoboGenesis多样化的场景随机化和知识隔离训练技巧的有效性。

工作原理

智能体流程生成图,显示协议模板与有序原子技能

LabVLA的流程包含三个阶段:环境构建、流程生成和模型训练。

环境构建从模拟就绪的3D实验器具资产库开始。RoboGenesis将这些资产组装成物理上可执行的场景——检查不可达的放置位置、缺失的仪器、不稳定的接触和无效的几何体。只有经过验证的场景才能进入流程生成。

流程生成将实验协议视为自然语言模板。模板包含命名物体、目标引用和有序的原子技能列表(抓取、倒液、放置、搅拌等)。RoboGenesis随机采样物体和技能参数,创建数千个独特片段,每个片段都有无碰撞的机器人轨迹。

模型训练使用两种新技术。FAST动作标记预训练将未来的机器人动作视为离散标记,并训练VLM从视觉历史中预测它们——类似于下一个标记预测,但针对电机指令。流匹配后训练将这些离散预测平滑为连续动作序列,以实现精确操作。知识隔离在预训练期间应用:语言模型的权重部分冻结,使其无法记忆场景特定模式,迫使它学习通用实验室推理。

数据流程还丢弃所有失败的片段,只保留成功的运行。每个技能都有自己的成功检查器,验证物理条件(例如倒液的液体转移),碰撞监视器拒绝禁止接触的步骤,无论任务是否完成。

为何对机器人学重要

长期以来,实验室自动化一直是手动编码的噩梦——每个新协议都需要从头重写机器人轨迹。LabVLA表明,单一的视觉-语言-动作模型只需理解自然语言指令和视觉场景,就能处理多样化的实验室任务,无需针对每个任务编程。

对于实验室管理人员和设备采购者来说,这意味着更快的设置时间、减少对专业机器人程序员的需求,以及扩展重复实验的能力。该系统已可迁移到真实Franka机械臂,使其适用于可能通过LabVLA栈进行改装的二手协作机器人。

对于更广泛的机器人行业,LabVLA的合成数据生成(RoboGenesis)和知识隔离方法为在具有结构化协议的领域(不仅仅是实验室)构建鲁棒的VLA模型提供了模板。同样的想法可应用于制造装配、厨房自动化或医学采血,这些领域都涉及长时序的结构化操作序列。

如果你的团队使用需要在Robot Overflow上处理实验器具或类似精确任务的人形机器人,这里描述的架构可作为训练蓝图。

局限与开放问题

LabVLA目前仅在受控台式环境中的单个Franka机械臂上运行。倒液体仍然是一个难题——由于需要精细协调以避免溢出和保持接触,模型仍然比人类更容易失败。评估尚未涉及真实试剂、化学安全约束或生物污染风险,这些对于在工作实验室中部署至关重要。

将RoboGenesis扩展到湿化学和生物学工作流程——其中材料会改变状态、反应具有时间敏感性、安全联锁是强制性的——将需要新的成功检查器和碰撞模型。团队承认这些是下一步,但目前系统仅限于干实验室模拟和简单的物理迁移测试。

常见问题

LabVLA能执行哪些任务? 它可以抓取实验器具、按压设备按钮、开门、倒液体、加热烧杯和转移烧杯——全部通过自然语言指令实现。

训练用的合成数据如何生成? RoboGenesis构建物理验证的实验室场景,然后采样协议模板,创建数千个带有无碰撞轨迹的成功运行演示。

LabVLA能在真实机器人上工作吗? 可以,它从模拟预训练后直接迁移到物理Franka机械臂上,在四项任务中无需任何微调。

LabVLA与其他VLA模型有何不同? 它使用带知识隔离的FAST动作标记预训练以防止过拟合特定场景,再加上流匹配以实现平滑的真实世界动作输出。

结论

LabVLA证明,当有高质量合成数据和场景感知训练支持时,精心设计的视觉-语言-动作模型能够处理科学实验室所需的长时序结构化操作。通过发布RoboGenesis、LabEmbodied-Data和训练方案,团队降低了其他人将这些方法扩展到新仪器和协议的门槛。

要信任VLA模型在实验室中使用真实化学品,你最大的改变需求是什么?