返回文章列表
世界模型

WorldPlay2:用分层控制与压缩记忆推进实时交互世界模型

阅读约 3 分钟

导语

实时交互世界模型要解决的,不只是“生成下一帧”这一问题。它还必须理解多种控制信号,并在持续滚动生成的过程中保持场景、角色与事件的连贯性。控制越灵活,输入形式越复杂;生成时长越长,历史上下文越容易膨胀,训练和推理成本也随之上升。WorldPlay2 试图从控制接口、记忆机制和模型蒸馏三个层面同时处理这一组矛盾。

核心方法

1. 将动作控制与语义控制拆开

WorldPlay2 采用因子化的混合控制接口。一部分控制与视频帧对齐,适合表达动作或交互过程中的即时变化;另一部分则以结构化语义的形式描述更高层的信息。论文进一步把语义因素拆分为场景外观、角色身份和动态语义事件。

这种设计的关键,不是简单增加控制信号,而是让不同信号承担相对明确的职责。例如,场景外观负责环境呈现,角色身份帮助维持主体特征,动态事件则用于表达正在发生的变化。通过显式解耦,模型可以在不混淆不同因素的情况下学习控制与视觉结果之间的关系,也更有利于跨场景、跨角色泛化。

2. 用压缩记忆降低长时建模成本

长时生成通常需要保留大量历史画面,但将整段滚动轨迹反复输入模型会造成上下文快速膨胀。WorldPlay2 将历史信息压缩为紧凑的记忆令牌,并让自回归学生模型与双向教师模型共享这类记忆。

在此基础上,模型不再对完整长轨迹进行一次性联合处理,而是采用按片段进行、由记忆提供条件的分数评估。这样既保留了历史状态对当前片段的影响,也减少了长序列蒸馏带来的计算和显存压力。其思路更接近“持续更新状态”,而不是每一步都重新读取全部历史。

3. Stable Forcing 稳定蒸馏过程

从双向教师模型向自回归学生模型进行蒸馏时,学生模型早期产生的误差可能被不断带入后续步骤,最终造成长时滚动质量下降。论文提出的 Stable Forcing 先用少步策略初始化学生模型,再结合完整滚动回放,让训练过程重新接触长程生成结果。

前者有助于降低学生模型在训练初期的不稳定,后者则避免模型只在局部片段上表现良好、却无法维持完整轨迹质量。两者配合,目标是让学生模型逐步适应自回归生成,同时保留教师模型在长时一致性上的能力。

意义与局限

WorldPlay2 的价值在于,它没有把实时性、控制灵活性和长时一致性视为彼此独立的问题,而是将控制表示、历史记忆和蒸馏流程联合设计。论文报告的实验显示,该方法具备较强的场景与角色泛化能力,并优于已有方法,但素材未提供具体数据、测试规模或基准细节,因此这些结论仍应结合完整论文进一步核验。

从应用角度看,这类设计可为交互式视频生成、游戏环境模拟和具备可控未来预测能力的智能体提供技术参考。后续真正需要关注的,是压缩记忆是否会丢失细粒度状态、语义控制能否覆盖更复杂的组合动作,以及模型在更长时间跨度和开放环境中的稳定性。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
InternW0-Δ:用20K小时开放数据连接视觉预测与机器人动作
世界模型
cctest.ai
世界模型

InternW0-Δ:用20K小时开放数据连接视觉预测与机器人动作

InternW0-Δ试图把视觉动态、场景语义、几何运动先验与动作生成整合进同一个世界动作模型,并以超过2万小时的异构开放数据进行预训练。论文称,该模型在仿真基准和真实机器人平台上均取得了优于既有方法的表现。

阅读全文
CCTest · Blog
给世界模型补上“物体恒存”:WROP如何训练视频模型理解遮挡与连续性
世界模型
cctest.ai
世界模型

给世界模型补上“物体恒存”:WROP如何训练视频模型理解遮挡与连续性

一项新研究把认知科学中的物体恒存任务引入视频生成模型训练,推出包含150类任务、150万样本的数据基础设施WROP。实验显示,经过训练的16B模型在连续生成模型中排名第一,但这仍主要反映特定测试集上的能力。

阅读全文