返回文章列表
大语言模型

GigaWorld-Policy-0.5:让世界动作模型更接近实时机器人控制

阅读约 3 分钟

导语

世界动作模型(World Action Models,WAMs)近年来成为机器人策略学习中的一个重要方向。它的核心思想是:不要只让模型学习“下一步该做什么”,还要让模型理解动作会如何改变视觉世界。通过把未来场景演化作为监督信号,模型有机会学到更具物理约束的动作表示。

但问题也很明显:不少 WAM 在推理时会显式生成未来视频,再据此产生动作。这种做法虽然直观,却带来高昂计算开销,难以满足机器人闭环控制对低延迟的要求。GigaWorld-Policy-0.5 正是在这一痛点上继续推进。

核心要点

  • 从“生成未来视频”转向“动作中心”:该工作延续 GigaWorld-Policy 的思路,将未来视觉动态主要用于训练阶段,让模型通过预测和理解场景变化获得更好的动作表征;到了推理阶段,则采用 action-only decoding,只输出动作,避免显式生成视频。

  • 混合 AC-WM 与 WAM 训练策略:在预训练阶段,GigaWorld-Policy-0.5 结合 Action-Conditioned World Modeling(AC-WM)和 WAM 训练。这样做的目标是加强视觉动态与机器人动作之间的耦合,使学到的动作表示更容易迁移到下游策略学习任务。

  • Mixture-of-Transformers 降低推理负担:模型引入 Mixture-of-Transformers 架构,将视觉动态建模与动作生成拆分给不同专家模块。在只需要动作输出的推理场景中,系统可以减少活跃计算量。论文摘要中提到,在本地 RTX 4090 设置下可达到 85 ms 推理延迟。

  • AutoResearch 辅助实验配置搜索:团队还使用基于智能体的 AutoResearch 流程,系统化搜索训练配置,减少超参数调试中的人工干预和时间成本。这一部分的意义不只在单个模型,也体现了机器人学习实验自动化的趋势。

意义与影响

GigaWorld-Policy-0.5 的价值不在于抛弃世界建模,而是在训练和部署之间重新分配计算:训练时充分利用未来视觉动态的监督价值,推理时避免把视频生成带入实时控制环节。这种设计更贴近机器人实际部署,因为真实机器人往往需要在传感、决策和执行之间快速循环。

从研究角度看,它也为 WAM 提供了一个更工程化的方向:世界模型不一定要在推理时完整“想象未来画面”,也可以把对未来的理解压缩进动作表示中。若这种范式在更多任务和硬件条件下得到验证,可能会推动具身智能系统从离线演示迈向更稳定的在线控制。

当然,素材中主要披露的是方法框架、延迟数字和实验结论概述,具体任务覆盖范围、对比基线细节和真实机器人表现仍需要阅读论文全文进一步判断。但就方向而言,GigaWorld-Policy-0.5 把 WAM 的关键矛盾——强监督与低延迟之间的取舍——放在了更清晰的位置。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
DeltaMerge-LowRes:把语言适配与任务适配拆开,再在权重空间合并
大语言模型
cctest.ai
大语言模型

DeltaMerge-LowRes:把语言适配与任务适配拆开,再在权重空间合并

这篇 arXiv 论文提出 DeltaMerge-LowRes,尝试用“语言 delta + 任务 delta”的方式降低低资源语言任务适配成本。核心发现是,不同合并规则会显著影响模型保留语言能力、执行任务和校准置信度的方式。

阅读全文