The Trinity：能力を軸に多モーダルエージェントを再帰的に改善

多モーダルエージェントの拡張には、二つの大きなボトルネックがあります。異なるモダリティを含む環境を構築し、実行結果を検証可能にするには大きなコストがかかります。また、タスクの種類と難度が増えるにつれて、手作業で Agent Harness を改良する方法では速度が追いつきません。The Trinity は、この問題をタスクそのものではなく、タスク間で共有される能力に注目することで解こうとします。

タスク木から能力木へ

見た目や入力形式が異なるタスクでも、計画、状態追跡、視覚的な位置づけ、ツール利用、複数ステップの実行といった同じ基礎能力を必要とする場合があります。The Trinity は検証済みの実行軌跡から共通要件を抽出し、従来のタスク木を階層的な能力木へ組み替えます。これにより、目標は一つのベンチマークを解くことから、複数のタスクで再利用できる能力モジュールを蓄積することへ移ります。

中心となる三つの役割は次の通りです。

• Creator：共通要件を抽象化し、単純で検証しやすいシミュレーション世界を作る。
• Explorer：その世界で解法やモジュールの組み合わせを探索する。
• Evolver：検証された更新を選別し、後続の反復へ継承する。

Capability-Driven Real2Sim2Real

この枠組みの中核は Capability-Driven Real2Sim2Real です。同じ能力ノードに属する異種タスクをそれぞれ再現するのではなく、Creator が共通する要件を抜き出し、能力学習に適した制御可能なシミュレーション世界へ変換します。その後、元のタスクで評価することで、表面的な形式が変わっても能力が転移するかを確認します。

この設計には、現実環境の複雑さをそのまま訓練に持ち込まず、再利用可能な能力を反復的に学習できるという利点があります。世界をベンチマーク名に合わせて作るのではなく、能力要件に合わせて生成する点が特徴です。

Harness の木とルーター

Explorer は選択的継承を使いながら、再利用可能な能力モジュールを段階的に進化させます。こうして形成される Harness 木では、異なる枝が異なる能力に特化し、検証された更新が固定された構造の中で蓄積されます。さらに Capability-Aware Harness Router が、タスクから得られる公開情報を使って、適合するモジュール構成を選びます。すべてのタスクに同じ Harness を適用するのではなく、タスクに合った構成を使う考え方です。

論文は、実世界ロボティクスを含む 18 個の未知ベンチマークで平均 26 ポイントの向上を報告しています。これは、モダリティや環境が変わる状況で、能力を中心にタスクを整理することが再利用性を高める可能性を示します。

ただし、結果の解釈には注意が必要です。提供された情報によれば、評価ではベンチマークと Harness の各組み合わせについて 5 回の準備試行を行い、その軌跡をスキルに変換してから Train と Unseen を採点します。したがって、報告された向上には、汎化した能力の転移だけでなく、対象ベンチマークへの適応も含まれます。準備試行なしの比較結果や、その token・計算コストは素材中に示されていません。

The Trinity の意義は、単一の自己改善機構ではなく、実行軌跡から能力を発見し、検証可能な世界を生成し、Harness の更新を蓄積する閉ループを提示した点にあります。今後、転移と対象固有の準備を分離した評価が加われば、多モーダルおよび身体性エージェントの実用性をより明確に判断できるでしょう。

出典：Hugging Face Daily Papers