長期実行エージェントの失敗原因を探すContinual Search

導入

短いタスクであれば、エージェントが失敗した直前の操作を調べるだけで原因を推測できる場合があります。しかし、検索、計画、ツール呼び出しなどを長時間続けるエージェントでは、状況が大きく異なります。最終的に表面化したエラーは、かなり前に起きた判断ミスや環境との相互作用の結果かもしれません。したがって必要なのは、失敗を説明することだけでなく、修正可能な根本原因を長大な実行履歴から見つけることです。

根本原因の特定は検索である

論文は、Root-Cause Attribution（RCA）を検索問題として捉えます。関連する証拠は少数の操作にしか現れず、履歴の遠く離れた場所に分散し、目に見える失敗と直接結び付かないことがあります。失敗の直前だけを読む方法では、原因に届かない可能性があります。

従来の多くの手法は、LLMに実行トレースを一度読ませ、診断を出力させます。この方法は短い履歴では機能しても、長い履歴では早期コミットメントを起こしやすくなります。モデルは途中で見つけたもっともらしい説明を採用し、その後にある反証や補足証拠を積極的に探さなくなります。その結果、同じトレースを再分析しても、異なる説明がそれぞれ自信を持って提示されることがあります。もっともらしさは、因果的な正しさを保証しません。

Continual Searchの仕組み

Continual Searchは、診断を一回限りの回答ではなく、複数ターンの反復的な探索に変えます。各段階で、判定者は現在の仮説を見直し、まだ調べていない証拠、説明できていない事実、結論と矛盾する可能性のある情報を探します。単に同じ質問を繰り返すのではなく、初期判断の抜けを意識させ、探索を早く閉じないことが狙いです。

研究者は既存の4つのRCAベンチマークで手法を評価しました。また、現在のベンチマークには大規模な実行履歴が不足していると指摘し、MegaRCA-Mixを導入しています。このテストセットは、長期かつ実行量の多いタスクを対象とした、人手で注釈された50件の失敗試験から構成されます。提供された素材では、複数のベンチマークとモデル系列で一貫した改善が報告されていますが、個別の数値は示されていません。

意義と課題

この研究は、エージェントのデバッグを結果の分類だけでなく、証拠の発見と仮説の修正として捉える視点を示します。実用的なRCAシステムには、どの部分を調べたのか、どの仮説が未検証なのか、なぜ特定の操作を重要視したのかを追跡できる仕組みが必要です。

一方、探索を継続すれば推論回数とコストは増える可能性があります。今後は精度だけでなく、探索効率、証拠の追跡可能性、診断が具体的な修正につながるかも評価すべきです。エージェントの行動履歴が長くなるほど、速く答える能力より、必要な証拠を探し続ける能力が重要になります。

出典：Hugging Face Daily Papers