記事一覧へ戻る
大規模言語モデル

GigaWorld-Policy-0.5:世界行動モデルをリアルタイム制御へ近づける試み

読了目安 3 分

導入

World Action Models(WAMs)は、ロボットの方策学習において注目されるアプローチの一つだ。単に「次にどの行動を取るか」を学ぶのではなく、行動と将来の視覚観測を同時に扱い、シーンがどのように変化するかを密な教師信号として利用する。これにより、物理世界に根ざした行動表現を獲得しやすくなる。

一方で、既存の WAM には実用上の課題がある。推論時に未来の動画を明示的に生成する設計では、計算コストが大きく、閉ループのロボット制御に必要な低遅延性を確保しにくい。GigaWorld-Policy-0.5 は、この問題に対して「訓練では未来を使い、推論では行動に集中する」という方向で改良を加えている。

主なポイント

  • 行動中心の設計:GigaWorld-Policy-0.5 は、GigaWorld-Policy の枠組みを発展させ、未来の視覚ダイナミクスを訓練時の学習信号として使う。一方、推論時には action-only decoding を採用し、未来映像を生成せずに行動を出力する。

  • AC-WM と WAM の混合訓練:事前訓練では、Action-Conditioned World Modeling(AC-WM)と WAM の訓練を組み合わせる。これにより、視覚的な変化とロボット行動の結び付きを強め、下流の方策学習へ転移しやすい行動表現を得ることを狙っている。

  • Mixture-of-Transformers による効率化:モデルは、視覚ダイナミクスのモデリングと行動生成を専門の Transformer エキスパートに分離する。行動だけが必要な推論時には、稼働する計算量を減らせる。概要では、ローカルの RTX 4090 環境で 85 ms の推論レイテンシを達成したとされている。

  • AutoResearch による設定探索:さらに、エージェントベースの AutoResearch パイプラインを用いて訓練設定を探索する。これにより、ハイパーパラメータ調整に必要な時間と手作業を減らし、より効率的に実験条件を見つけることを目指している。

意義と影響

この研究の重要点は、世界モデルを捨てることではない。むしろ、未来の視覚変化から得られる学習上の利点を残しながら、実行時の負荷を切り離そうとしている点にある。ロボット制御では、センサー入力、判断、実行が短い周期で繰り返されるため、推論時の余分な生成処理は大きな制約になり得る。

GigaWorld-Policy-0.5 は、未来映像を常に生成するのではなく、その理解を行動表現へ圧縮する方向を示している。もしこの考え方が多様なタスクや実機環境で有効であることが確認されれば、WAM をより実用的なロボット方策へ近づける一歩になるだろう。

ただし、提示された素材だけでは、詳細なベンチマークや比較条件、実機での挙動までは十分に判断できない。それでも、低遅延な制御と強い世界理解を両立させようとする設計思想は、今後の具身 AI 研究にとって重要な論点を示している。

出典:Hugging Face Daily Papers

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
Skaling Law:モデル規模とデータ量を再び結び直す新しいスケーリング則
大規模言語モデル
cctest.ai
大規模言語モデル

Skaling Law:モデル規模とデータ量を再び結び直す新しいスケーリング則

Skaling law は、モデル容量と学習データの相互作用を単一の指数で表し、従来のニューラルスケーリング則が極端な条件で外しやすい問題を補正しようとする研究です。

続きを読む
CCTest · Blog
GradCuit:LLMの推論をテスト時に内部状態から最適化する
大規模言語モデル
cctest.ai

GradCuit:LLMの推論をテスト時に内部状態から最適化する

GradCuit は、Transformer の中間層に最適化可能な連続状態を挿入し、生成結果からの勾配を内部推論へ直接戻す手法です。モデル重みを更新せずに、推論精度と頑健性を高めることを狙います。

続きを読む