エージェントを「ステートレス」にする長期自動研究の設計

はじめに

大規模言語モデルへの推論回数を増やせば、長期的な自動研究も比例して進むとは限らない。長時間動作するエージェントは、膨張した履歴を繰り返し読み、別のエージェントと同じ実験を行い、実験が止まった後もトークンだけを消費することがある。問題の根はモデルの能力だけでなく、研究状態をどこに保存し、次の試行を誰が決めるかというシステム設計にもある。

スタンフォード大学のチームは、論文「Stateless Language Agents: Scaling Long-Horizon Automated Research」で、Stateless Language Agents（SLA）を提案した。基本原則は「状態を持つ探索と、状態を持たないエージェント」の組み合わせである。

仕組みのポイント

• 永続的な状態をハーネスが管理する：候補解、探索方向、測定結果をエージェントの会話ではなく、外部の実行基盤に保存する。
• 呼び出しごとに文脈を作り直す：各エージェントは過去の会話を引き継がず、役割に応じて選別された情報だけを受け取る。何を見せるかを明示的に設計できる。
• 計画と実行を分担する：ステートレスなAdvisorが各探索方向の要約結果を読み、具体的な実験を並列のWorkersへ割り当てる。Workersは実験を実行し、測定可能な結果を返す。
• 長い予算で評価する：ソフトウェア工学、カーネル最適化、アルゴリズム設計を対象に、最大10億トークンの予算で、三つの既存フレームワークと比較した。

結果と意味

論文の要約によれば、SLAは評価されたすべてのタスクで最終結果が最も良かった。カーネル最適化では、最も強いベースラインの最終性能に、84％超少ないトークンで到達した。共通チェックポイントを使ったアブレーションでは、焦点を絞った文脈と明確な実験割り当てがそれぞれ進展に寄与し、長期実行では効果が重なる可能性も示された。Advisorの消費量は全体の0.6％未満だった。

この研究が示すのは、会話履歴を増やすことと研究上の記憶を強化することは同じではない、という点だ。反復実験が中心となる課題では、候補と結果を構造化して保存し、必要な証拠だけを役割別に渡す方が、全履歴を読み続ける設計より効率的になり得る。

また、短い評価では、長期運用時に現れる重複や停滞、コンテキスト処理のコストを見落としやすい。ステートレスとは記憶がないことではなく、永続的な記憶を暗黙の会話から、検査可能な探索状態へ移すことだ。今後の自動研究システムでは、良いアイデアを出す能力だけでなく、証拠を記録し、次の実験を選び、未検証の方向へ計算資源を配分する能力が重要になる。

Hugging Face Daily Papers