Multi-Head Latent Control：LLMエージェントに「答える・委ねる・ツールを使う」を内部状態から判断させる

導入

大規模言語モデルがエージェントとして使われる場面では、単に次の単語を予測するだけでは不十分になっている。実運用では、現在のモデルで答えられるのか、より強いモデルへ渡すべきか、ユーザーに追加情報を求めるべきか、外部ツールを呼ぶべきか、あるいは回答を控えるべきかを判断しなければならない。論文 Multi-Head Latent Control は、この判断をモデルの生成過程に現れる隠れ状態から取り出すことを提案している。

核心ポイント

• 入力だけでなく潜在状態を見る：従来のエージェント制御は、プロンプトによるルーティング、外部オーケストレーション、タスク別の微調整に依存しがちだった。これらは入力側の信号に寄りやすく、モデルの基盤が変わるたびに保守コストが増える。提案手法は、凍結済みLLMまたはVLMの隠れ状態の軌跡を読むことで、制御に必要な情報を得ようとする。
• 2種類のヘッドで判断を分担：Capability Head は、現在のモデルがそのインスタンスを解けるか、より強い協調モデルに委譲すべきかを予測する。Resolution Head は、確認要求、ツール使用、棄権、直接回答のどれが適切かを予測する。
• 本体モデルは変更しない：両方のヘッドは、同じ凍結済みモデルから得た latent traces のみで学習される。したがって、基盤モデルを再学習するのではなく、後付けの軽量な制御層として導入できる。
• 生成途中での早期委譲：部分的な生成から失敗の兆候を検出できれば、不要な生成を続ける前に大きなモデルへ渡せる。これはコスト削減に直結する。
• 報告された効果：小モデルと大モデルを組み合わせたルーティング実行では、AndroidWorldで大モデル使用量を最大90.7%削減し、複数ベンチマーク平均で27%〜53%削減しながら、大モデル性能の大部分を維持したと報告されている。ツール使用判断でも、相対スコアが最大+158%向上し、必要なツール呼び出しの見逃しが65.5%減ったという。

意義と影響

この研究の面白さは、エージェント制御を完全な外部ルールとして扱うのではなく、モデル自身の内部ダイナミクスに基づく信号として扱う点にある。小さなモデルが自分の限界を早く検知できれば、大きなモデルの利用を難しいケースに集中できる。また、ツールが必要な場面をより正確に検出できれば、根拠のない直接回答も減らせる可能性がある。

一方で、実運用には課題も残る。異なるモデル系列で同じように機能するのか、潜在軌跡をどう収集するのか、誤ったルーティングをどう評価するのかは重要な論点だ。特に棄権やツール使用、モデル委譲はユーザー体験と安全性に関わるため、平均性能だけでは判断できない。

それでも、Multi-Head Latent Control は、LLMエージェントに「答え」だけでなく「次に取るべき行動の信号」を出させるための有力な方向性を示している。

出典：Hugging Face Daily Papers