Mage-VL-Cowork：GUIとコードを統合する4Bコンピュータ利用エージェントの訓練法

導入

コンピュータ利用エージェントに求められる能力は、画面を見てボタンをクリックすることだけではない。実際の作業では、GUIの状態を理解し、必要に応じてコードを書き、ターミナルを呼び出し、その後ふたたび画面操作へ戻る必要がある。Mage-VL-Coworkは、こうした異なる操作を一つの方策で組み合わせることを目指す研究である。一般的なマルチモーダル整合済みチェックポイントから4B規模のハイブリッドC​​UAを訓練し、データ生成から学習までを含むレシピを示している。

主なポイント

• 5段階の段階的カリキュラム。 訓練は中間学習、教師ありファインチューニング、強化学習をまたいで進む。GUI操作、コード、ターミナル実行を別々の能力として扱うのではなく、同一タスク内で切り替えられるように学習させる。
• 再利用可能なタスク生成基盤。 Mage-CUA-Forgeは、タスクごとにエージェントを作り直す方式から、スキル条件付きの生成ワークフローとアプリケーション別の準備器を使う方式へ移行する。論文によれば、293,806件のデスクトップおよびウェブタスクを6,915スキルにわたって合成し、反復的なタスク単位の支出を82.6%削減した。
• 教師ハーネスを進化させる。 固定された教師の軌跡をそのまま蒸留するのではなく、教師が使う環境やツールの構成を改良し、用途別のCUAハーネスを作る。これにより、訓練段階に適した軌跡と監督信号を得ることを狙う。
• 小規模モデルでの評価。 Mage-VL-Cowork-4BはOSWorld-Verifiedで66.0%を達成した。論文要旨では、同じパラメータ規模で最先端の結果であり、推論コストもより効率的だと説明されている。

意義と限界

この研究の重要性は、モデルのスコアだけでなく、モデルの周囲にある訓練システムを設計対象にした点にある。コンピュータ利用エージェントでは、複数のアプリケーション、技能、ツールの組み合わせを大量に用意しなければならない。タスクを一件ずつ手作業で構築すれば、規模拡大と一貫性の確保が難しくなる。スキルの再利用とアプリケーション固有の準備を組み合わせるMage-CUA-Forgeは、このデータ作成上のボトルネックを直接扱っている。

教師ハーネスの考え方も示唆的だ。教師は単なる出力生成モデルではなく、利用できるツール、失敗からの復旧方法、アプリケーションへの接続方法を含む実行環境によって軌跡の質が変わる。そのため、固定教師から出力を増やすだけでなく、教師を取り巻く環境を改良することが監督データの品質向上につながる可能性がある。

一方、提供された素材は論文要旨が中心であり、詳細なアブレーション、タスク分布、失敗例、第三者による再現結果は示されていない。66.0%という結果や同規模での最先端という位置づけは、本文と今後の評価を併せて確認する必要がある。それでも本研究は、コンピュータ利用の進歩がパラメータ数だけでなく、データ生成工場、教師ハーネス、段階的な学習設計の組み合わせに左右されることを示す一例だ。

arXiv