記事一覧へ戻る
大規模言語モデル

GigaWorld-Policy-0.5:世界行動モデルをリアルタイム制御へ近づける試み

読了目安 3 分

導入

World Action Models(WAMs)は、ロボットの方策学習において注目されるアプローチの一つだ。単に「次にどの行動を取るか」を学ぶのではなく、行動と将来の視覚観測を同時に扱い、シーンがどのように変化するかを密な教師信号として利用する。これにより、物理世界に根ざした行動表現を獲得しやすくなる。

一方で、既存の WAM には実用上の課題がある。推論時に未来の動画を明示的に生成する設計では、計算コストが大きく、閉ループのロボット制御に必要な低遅延性を確保しにくい。GigaWorld-Policy-0.5 は、この問題に対して「訓練では未来を使い、推論では行動に集中する」という方向で改良を加えている。

主なポイント

  • 行動中心の設計:GigaWorld-Policy-0.5 は、GigaWorld-Policy の枠組みを発展させ、未来の視覚ダイナミクスを訓練時の学習信号として使う。一方、推論時には action-only decoding を採用し、未来映像を生成せずに行動を出力する。

  • AC-WM と WAM の混合訓練:事前訓練では、Action-Conditioned World Modeling(AC-WM)と WAM の訓練を組み合わせる。これにより、視覚的な変化とロボット行動の結び付きを強め、下流の方策学習へ転移しやすい行動表現を得ることを狙っている。

  • Mixture-of-Transformers による効率化:モデルは、視覚ダイナミクスのモデリングと行動生成を専門の Transformer エキスパートに分離する。行動だけが必要な推論時には、稼働する計算量を減らせる。概要では、ローカルの RTX 4090 環境で 85 ms の推論レイテンシを達成したとされている。

  • AutoResearch による設定探索:さらに、エージェントベースの AutoResearch パイプラインを用いて訓練設定を探索する。これにより、ハイパーパラメータ調整に必要な時間と手作業を減らし、より効率的に実験条件を見つけることを目指している。

意義と影響

この研究の重要点は、世界モデルを捨てることではない。むしろ、未来の視覚変化から得られる学習上の利点を残しながら、実行時の負荷を切り離そうとしている点にある。ロボット制御では、センサー入力、判断、実行が短い周期で繰り返されるため、推論時の余分な生成処理は大きな制約になり得る。

GigaWorld-Policy-0.5 は、未来映像を常に生成するのではなく、その理解を行動表現へ圧縮する方向を示している。もしこの考え方が多様なタスクや実機環境で有効であることが確認されれば、WAM をより実用的なロボット方策へ近づける一歩になるだろう。

ただし、提示された素材だけでは、詳細なベンチマークや比較条件、実機での挙動までは十分に判断できない。それでも、低遅延な制御と強い世界理解を両立させようとする設計思想は、今後の具身 AI 研究にとって重要な論点を示している。

出典:Hugging Face Daily Papers

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
少ない訓練でより多くを学ぶ:不確実性で推論後学習を圧縮
大規模言語モデル
cctest.ai
大規模言語モデル

少ない訓練でより多くを学ぶ:不確実性で推論後学習を圧縮

南京大学の研究チームは、学習価値の高い推論軌跡に監督信号と最適化資源を集中させる、漸進的収縮フレームワークを提案しました。教師側の不確実性推定と学習者側のオンライン振り分けにより、推論後学習のコスト削減を目指します。

続きを読む
CCTest · Blog
MoEは負荷分散だけでは不十分:DRMoETがルーティングの頑健性を強化
大規模言語モデル
cctest.ai
大規模言語モデル

MoEは負荷分散だけでは不十分:DRMoETがルーティングの頑健性を強化

各エキスパートに同じ程度のトークンを送っても、割り当てられた入力を十分に処理できるとは限りません。DRMoETは高損失のルーティング結果を学習で重視し、疎な計算形式を維持したまま、誤ったルーティングへの耐性を高めます。

続きを読む
CCTest · Blog
数個の冒頭トークンが基盤モデルの推論を引き出す理由
大規模言語モデル
cctest.ai
大規模言語モデル

数個の冒頭トークンが基盤モデルの推論を引き出す理由

新たな研究は、モデルの回答冒頭に現れるトークンが、その後の推論行動を方向づけることを示した。特定の冒頭を固定するだけで、基盤モデルの数学・コーディング性能が強化学習モデルに近づく場合がある。

続きを読む