AgentBaton、エージェントタスクで高性能モデルから低コストモデルへ引き継ぎ

長期的なエージェントタスクでは、モデルが計画を立て、ツールや環境と何度もやり取りし、その結果を見て次の行動を決める。すべての段階で高性能なクラウドモデルを使えば信頼性を確保しやすいが、呼び出し回数が増えるほど費用も膨らむ。一方、低価格のクラウドモデルやローカルで動かせる小型モデルは安価だが、難しい推論やエラーからの復旧では弱い場合がある。

AgentBaton は、この2種類のモデルを1つのタスク内で協調させられるかを検討する。一般的な query-level routing のように各リクエストを個別に振り分けるのではなく、あるモデルがタスクを一定時間進めた後、文脈と状態を別のモデルへ渡して続きを実行させる。

主なポイント

• 引き継ぎの方向が重要：効率モデルから高性能モデルへ渡す方法は、高性能モデルだけを使う場合に及ばないことが多く、コスト削減も限定的または見られなかった。反対に、高性能モデルが重要な推論やタスクの土台を作った後、効率モデルへ渡す方法は有効だった。
• 頻繁な切り替えは必須ではない：研究結果は、タスクの適切な段階で一度だけ引き継ぐ単純な構成でも、協調の利点を得られる可能性を示している。
• AgentBaton が時機を検出：軽量な検出器がタスク進行に繰り返し現れるパターンを学び、モデルを交代させるタイミングを判断する。
• コストと精度の両面で改善：11組のモデルと2つの代表的ベンチマークで、APIコストを平均65.9%削減しながら、精度を概ね維持した。条件によっては、高性能モデルのみの場合より精度が最大8.8ポイント向上した。推論の強さを変えた実験でも、精度とコストの経験的な Pareto フロンティアを広げている。

意義と限界

この研究が示す実務的な考え方は、高性能モデルをタスクの最初から最後まで使い続けなくてもよいということだ。計画、難しい判断、リスクの高い復旧処理は高性能モデルに任せ、進行が安定して繰り返しやすくなった段階で、安価なモデルやローカルモデルへ移行できる。これにより、継続的な推論費用や高価格なクラウドモデルへの依存を抑えられる可能性がある。

ただし、引き継ぎは早すぎても遅すぎても問題になる。早すぎれば未解決の推論を効率モデルに任せることになり、遅すぎれば節約できる余地が小さくなる。また、次のモデルが状況を正しく理解できるだけの文脈を渡す必要もある。したがって、本研究の結論はあらゆるタスクに適用できる固定ルールというより、エージェント設計の有力な指針として捉えるべきだろう。

AgentBaton は、モデル選択を「どのモデルが答えるか」だけでなく、「いつ制御を渡すか」という問題として捉え直した。段階が明確でコストに敏感なエージェントワークフローでは、試す価値のある軽量な協調手法である。

出典：Hugging Face Daily Papers