MiniWorld：動画ワールドモデルをゼロから訓練する軽量ベースライン

導入

動画ワールドモデルは、過去の観測と制御信号を条件として、次に何が起きるかを予測するモデルである。通常の動画生成モデルが主に見た目や動きの自然さを扱うのに対し、ワールドモデルはエージェントの行動によって環境がどう変化するかというダイナミクスを学ぶ点に意味がある。これは、具身 AI、対話型シミュレーション、長期的な行動計画の基盤になり得る。MiniWorld が取り組むのは、巨大な事前学習済み動画モデルを後処理で改造するのではなく、より軽量で透明性の高い方法で動画ワールドモデルをゼロから訓練できるかという課題だ。

主要ポイント

• ゼロからの訓練を重視。 近年の多くの手法は、事前学習済み動画生成モデルをポストトレーニングや蒸留でワールドモデル化している。MiniWorld は、研究用の再現可能なベースラインとして、エンドツーエンドの訓練手順を提示する。
• 因果的ストリーミング推論に合わせた設計。 論文は、双方向の事前学習と実際の因果的なストリーミング推論の間にずれがあると指摘する。MiniWorld は block-causal Video Diffusion Transformer を採用し、自己回帰的なロールアウトに近い構造をとる。
• 潜在空間での Flow Matching。 事前学習済み Video VAE の潜在空間で訓練することで、ピクセル空間を直接扱う場合の計算負荷を抑える。
• Diffusion Forcing の応用。 chunk 単位で非減少となるノイズスケジュールと、二段階の継続訓練を用いて、時間方向のモデリングと安定性を高める。
• 推論効率への配慮。 rolling KV cache とパイプライン化された非同期デノイズを組み合わせ、計算量を制御しながら長いストリーミング生成を行う設計になっている。

意義と影響

MiniWorld の価値は、最先端性能を主張することだけではなく、研究コミュニティが検証しやすい土台を提供する点にある。著者らは、単一の 8-GPU サーバーで数日以内に訓練できると述べており、訓練・推論コードと事前学習済みチェックポイントも公開している。これにより、因果構造、ノイズ設計、継続訓練、KV キャッシュなどの要素が実際にどれほど効くのかを比較しやすくなる。

具身 AI の観点では、エージェントが行動前に結果を想像するための内部シミュレーターとして、動画ワールドモデルは重要な役割を担う可能性がある。ただし、提示された素材には詳細なベンチマーク比較や包括的な性能評価は含まれていない。そのため MiniWorld は、既存の大規模手法を置き換える決定版というより、オープンで扱いやすい研究基盤として捉えるのが適切だろう。

出典：Hugging Face Daily Papers