生成式世界模型以与数据覆盖度相关的方式产生幻觉，且单一的数据中心干预措施可同时预防所有三种失败模式。
幻觉的特征描述
我们识别了生成式世界模型产生幻觉的三种不同方式，每种都与想象管道的不同阶段相关。
动作边缘化幻觉。 在给定上下文条件下，预测的下一隐状态对输入动作基本不敏感。展开在视觉上合理，但坍缩到动作边缘化的未来，因此模型的行为更像视频生成器而非可控世界模型。在操作上，我们通过在评估时干预动作流来暴露这种模式，例如随机打乱批次内的动作并测量流MSE的变化；以此方式产生幻觉的模型，其流MSE在干预下几乎没有变化。
场景发散幻觉。 众所周知，自回归展开随着预测时间步增加会累积复合误差。然而，场景发散幻觉是一种特定的失败模式，其中预测到物理上不可能的事件（例如在Pong游戏中得分时球传送回赛场）。这种幻觉在数据覆盖度差的状态中最常见。
这三种失败模式探测模型的不同部分：分词器、动力学模型的动作条件以及动力学误差的多步累积。
缓解幻觉
上述分类和预测因子提示了一个单一的数据中心视角：每种失败模式在机制上都是由于模型在状态-动作空间的某些区域所见太少的结果。感知幻觉是分词器重建分布中的覆盖缺口，动作边缘化幻觉是动作条件转移中的覆盖缺口，而场景发散幻觉则是模型被要求想象轨迹上的覆盖缺口。
自然随之产生两种干预措施：
覆盖感知训练。 我们建议对现有数据集进行重采样，以提高状态-动作空间中欠表示区域的权重，然后探究在训练时缩小这些缺口是否能同时减少所有三种失败模式。由于上述视角确定覆盖度是所有类型幻觉的根本杠杆，单一的重加权配方应能同时将三种信号推向正确方向，而无需对每种类型单独干预。在实践中，我们通过调整采样使任务间均匀而非帧间均匀来重新平衡训练数据。我们还实验了损失重加权，但发现采样干预更优。
常见问题
世界模型幻觉的三种类型是什么？ 三种类型是感知幻觉（重建缺口）、动作边缘化幻觉（动作条件失败）和场景发散幻觉（轨迹覆盖度差导致的累积误差）。
如何预测幻觉？ 通过可测量的指标预测幻觉，这些指标与数据覆盖度相关——检查隐动力学对动作的敏感性，或检测展开中出现的物理上不可能事件。
什么是覆盖感知训练？ 是一种数据中心干预，对训练样本进行重加权，提高状态-动作空间中欠表示区域的权重，用单一方法处理所有三种幻觉类型。
覆盖感知训练是否比损失重加权更有效？ 是的，实验表明，使采样在任务间均匀而非帧间均匀的调整优于损失重加权。