返回文章列表
世界模型

Hy-Nomas:让世界模型连续理解文字指令与镜头控制

阅读约 3 分钟

导语

交互式世界模型的难点,不只是生成一段看起来合理的视频,而是让用户能够持续介入:先描述一个场景,再要求角色行动,随后移动镜头或改变任务,模型仍要记住此前发生的事情,并让新的结果符合已有的动作后果。腾讯团队发布的 Hy-Nomas,正是针对这一问题设计的开放式视频世界模型。

核心要点

  • 支持多轮自由交互:Hy-Nomas 接收自由形式的文本指令,并支持连续摄像机控制。模型不局限于固定动作模板,而是根据当前输入和此前交互历史生成下一段内容。
  • 可变长度生成:系统能够按照当前需求生成不同长度的视频片段,并通过缓存历史连接多个片段,避免每次交互都从零开始。
  • 区分场景描述与动作指令:论文的关键设计是将结构化视频字幕与动作感知的因果注意力结合。描述性上下文可以跨片段访问,用于保持环境、对象和整体状态;动作指令则被限制在其对应的时间窗口内,以减少旧动作对后续生成的干扰。
  • 引入视觉语言 Prompt Enhancer:Prompt Enhancer 会把用户请求以及多模态交互历史整理成下一片段所需的结构化条件,帮助模型从较为开放的自然语言中提取场景、动作和控制意图。
  • 分阶段训练:训练课程逐步加入因果生成、文本交互、镜头控制,以及使用模型生成历史进行训练,最后再进行扩散蒸馏。这种安排旨在让模型从单段视频生成逐步过渡到连续交互。

为什么值得关注

许多视频生成系统擅长根据一次性提示词创作画面,但在多轮操作中容易出现身份漂移、场景重置或动作不连贯。Hy-Nomas 将“记住世界状态”和“执行当前动作”拆解处理,体现了交互世界模型从短视频生成器走向可持续模拟器的一种路径。

根据素材,Hy-Nomas 在人工评测中优于已有世界模型。不过,摘要没有给出具体评测数值,因此更稳妥的理解是:它在多轮指令跟随、历史保持和镜头控制等综合能力上展现出竞争力,而不是已经解决了长期一致性问题。模型权重、代码、基准和轻量化适配流程的开放,也有助于研究者复现实验并进一步测试其在游戏原型、虚拟场景创作和具身交互中的潜力。

当然,开放式世界生成仍面临成本、实时性、物理可靠性和长时间记忆等挑战。Hy-Nomas 的价值,首先在于提供了一个完整的可研究系统:它把条件整理、因果注意力、历史缓存和训练课程放在同一条技术链路中,为后续探索更稳定、更可控的交互式生成提供了基础。

评论

正在确认登录状态……

正在加载评论……

相关文章