UAV-Flow++:语言引导无人机飞行基准,覆盖真实与仿真任务

UAV-Flow++:语言引导无人机飞行基准,覆盖真实与仿真任务

Donglin Yang, Xiangyu Wang, Yantong Zhong, Wenhao Zheng, Zihan Ding +4 位

1 分钟阅读•2026年11月14日

真实世界数据集

为捕捉专家飞行行为,作者通过采集并标注真实飞行示范,构建了 UAV-Flow。

指令标注

语言标注通过质量控制流程完成。标注人员首先筛除存在行为歧义、执行不安全、场景关系不明确或运动语义不一致的片段。随后,他们为片段标注简洁指令,描述预期运动;必要时,还会注明运动与可见物体之间的空间关系。

为支持标准化标注和高效数据处理,UAV-Flow 采用固定指令集作为规范任务标签。研究还通过大语言模型改写规范标注,构建开放词汇指令集。最终的真实世界数据集包含 30,692 条轨迹,涵盖八类主要运动,并配有第一视角视频、对齐的无人机状态和指令。

UAV-Flow 真实世界数据采集与标注流程

数据分析

UAV-Flow 和 UAV-Flow-Sim 为 Flow 任务框架提供互补的数据覆盖。真实世界数据集包含专家操控的 30,692 条轨迹,涵盖八类主要运动,记录了多样的视觉环境、人类操控风格和真实执行的无人机物理运动状态。仿真数据集包含 10,109 条轨迹,其指令和状态格式与真实数据集一致,可用于受控测试和基于仿真的策略优化。

作者还构建了一个仿真测试集,其中包含 273 条经过标注的轨迹,覆盖数据集中的所有主要动作类型,便于对 Flow 任务进行系统评估。每个测试回合均指定任务标签、初始状态、指令、参考轨迹和特定任务的完成标准,从而建立可复现的闭环评估流程。

混合模仿预训练

该策略通过模仿学习进行预训练,训练数据混合了 UAV-Flow 中的真实飞行示范和 UAV-Flow-Sim 中的仿真示范。两类数据均采用统一的回合格式,并扩展为帧级训练样本。预训练数据集约包含 20,000 条示范轨迹。

真实世界示范提供真实的户外视觉多样性、传感器随机性和物理运动动力学。仿真示范则能以可控且可扩展的方式覆盖 Flow 机动动作和任务配置。利用这些互补数据联合训练,使策略能够将第一视角视觉观测、无人机状态和语言指令映射为未来动作片段。

对于每个训练样本,专家未来动作片段经过归一化和离散化后转换为类别标签,并采用类别交叉熵对动作预测进行监督。损失在未来步数和四个动作维度上取平均:

归一化后的专家动作被映射到对应的离散动作分箱。

预训练策略根据语言指令预测短时域无人机动作片段。该策略用于后续闭环评估,并作为强化学习后训练的初始化策略。

FlowVLA 策略与训练方法

真实世界部署

为将训练好的策略部署到实体无人机上,作者采用地面站与无人机协同执行架构。由于机载计算资源有限,VLA 推理在地面站上进行。无人机通过无线链路向地面站传输第一视角图像和状态估计。地面站根据接收到的观测和语言指令生成动作片段,将其转换为控制目标后传回无人机,由机载飞控执行。

策略在局部坐标系中输出位置-偏航角动作。执行层将离散预测解码为连续动作,并使用与输入观测对应的无人机位姿,将每个动作片段逐步转换为位置-偏航角航点。

实验

研究通过闭环仿真、消融研究和实体无人机部署评估 FlowVLA。实验首先将预训练策略与适配后的基线方法进行比较,并评估 GRPO 和 TGRPO 后训练对任务完成度和轨迹相似度的影响。随后,消融研究比较不同强化学习算法,并考察训练数据组成、动作表示和 VLM 特征选择的影响。最后,论文展示了在户外和室内真实场景中的飞行执行示例。

基线模型

作者选取五种具有代表性的方法作为基线,并将其适配到 Flow 任务。所有基线都使用相同的仿真示范进行模仿学习训练,并通过 LoRA 微调其 VLM 组件。为提供统一的闭环执行接口,每个模型的输出都会转换为局部位置-偏航角指令,并由同一个仿真器侧控制器执行。

FlowVLA 指通过混合真实世界与仿真示范进行模仿预训练得到的策略。FlowVLA-GRPO 和 FlowVLA-TGRPO 则指以该策略为基础、分别采用相应算法进行强化学习后训练的变体。

为考察这些任务上的优化效率和性能,所有策略都在完整测试集上评估。评估量化了四项强化学习训练任务上的性能提升,以及其余任务上的能力保持情况。

消融研究

训练曲线进一步展示了各方法在训练过程中的表现。总体而言,FlowVLA-GRPO 和 FlowVLA-GDPO 的成功率通常会提高;GSPO 在训练后期保持在 90% 左右,而 DAPO 则大幅下降。FlowVLA-GRPO 在训练后期保持了相对较高的 NDTW,而 FlowVLA-GDPO 和 FlowVLA-GSPO 的 NDTW 则有所下降。

FlowVLA-DAPO 和 FlowVLA-GSPO 在训练后期的性能退化,可能部分与缺少参考策略 KL 正则化有关,因为它们的更新不会明确限制与预训练参考策略之间的累积偏差。

混合训练数据的影响

加入真实世界飞行示范后,FlowVLA 的平均成功率从 73.14% 提高至 75.58%,提升了 2.44 个百分点。平均 NDTW 也略有上升,从 0.399 增至 0.402。这些结果表明,实体飞行示范不仅有助于直接学习真实世界策略,还能为仿真数据提供互补训练信号,从而提升仿真中的闭环任务成功率。

真实世界部署评估

按照上述部署方案,作者将 VLA 策略部署到实体无人机上,并评估其在户外和室内场景中通过闭环飞行执行语言指令的能力。

飞行过程中,无人机持续向地面站传输第一视角图像和状态估计,由地面站预测动作片段。执行层将预测转换为航点指令,根据端到端延迟选择前视航点,并将其发送至飞控。即使存在通信和策略推理延迟,该流程仍能维持连续的闭环飞行。

实体无人机部署设置

致谢

本研究部分获得中国国家重点研发计划(Grant No. 2024YFF1401400)、创新研究群体科学基金(No. T2621006)、国家自然科学基金(Nos. U23B2010, 62461160308, 62576024)、中央高校基本科研业务费(No. 501RCQD2025141003)以及 BeiHang GanWei Project(No. 502GWXM2024141001)的资助。

实体无人机平台

研究使用两个无人机平台在室内和户外环境中测试实体飞行:P600 无人机平台和 DJI Tello。

常见问题

UAV-Flow 真实世界数据集包含哪些内容? 该数据集包含 30,692 条轨迹,涵盖八类主要运动,并配有第一视角视频、对齐的无人机状态和指令。

仿真数据集和测试集分别有多少条轨迹? UAV-Flow-Sim 包含 10,109 条轨迹,仿真测试集包含 273 条经过标注的轨迹。

混合模仿预训练结合了哪些数据? 它将 UAV-Flow 中的真实飞行示范与 UAV-Flow-Sim 中的仿真示范结合起来,构成约包含 20,000 条轨迹的预训练数据集。

实体无人机如何接收并执行策略动作? 无人机将图像和状态估计发送至地面站进行推理,随后接收位置-偏航角航点指令,并交由机载飞控执行。