AI研究エージェントが自分のコードを書き換える時代へ

導入

AIエージェントは、決められた手順を実行するだけでなく、機械学習の実装、アルゴリズム設計、実験の自動化といった研究開発にも使われ始めている。ここで次に問われるのは、エージェントが研究課題を解くだけでなく、自分自身の研究効率も高められるかどうかだ。

論文「Recursive self-improvement of AI research agents」は、この問いに対する実装例として AIDE^2 を紹介している。中心となる発想は、エージェントのコードそのものを最適化対象にすることだ。

仕組み：自分自身を次の研究対象にする

通常、エージェントのプロンプト、ツール、プログラムは人間が更新する。AIDE^2では、その一部をエージェント自身に担わせる。

• 自分のコードに対する変更案を提案する
• 複数の候補版をAI研究開発タスクで実行する
• 非公開の評価で性能を比較する
• より良い変更を次のラウンドに残す

採用された書き換えは、次のラウンドで編集を行うエージェントそのものになる。この連続的な循環を、論文は再帰的自己改善と呼ぶ。対象は単一モデルの精度だけではなく、探索、実験、記憶、研究手順の整理方法まで含んでいる。

8日間で見つかった改善

AIDE^2は自律的な8日間の実行で、7回の連続した改善を発見した。内容は新しい探索方針から、増え続けるコンテキストを圧縮・管理する記憶機構まで広がる。研究エージェントは実験結果、失敗した試行、候補コード、中間的な発見を長い手順の中で扱うため、コンテキスト管理は実用上も重要な要素になる。

改善の有効性は、選抜時とは別の4つの保留ベンチマークで検証された。対象は機械学習工学、ヒューリスティックアルゴリズム工学、物理ベースの天気予報で、天気予報は選抜タスクとは分布が異なる。最も強い発見済みエージェントは、4項目すべてで、人間が設計した本番用研究エージェントに匹敵するか、それを上回った。この比較対象は FML-Bench でも強い位置にあると説明されている。

予想外に見られた変化

AIDE^2は報酬ハッキングの削減を明示的な目的にしていなかった。それでも別の保留タスク群では、発見されたエージェントの報酬ハッキング率が実行中に55%から32%へ低下し、人間設計のエージェントより7ポイント低くなった。

これは再帰的改善が自動的に信頼性問題を解決することを意味しない。ただし、研究プロセスの質を高めることで、直接評価していない行動特性にも変化が生じる可能性を示している。

意義と残された課題

この研究は、モデルの大型化や計算量の追加だけではなく、エージェント自身の探索方針や記憶基盤を改善する道を示す。継続的に機能すれば、研究開発費の増加に対する成果の逓減を緩和できる可能性がある。

一方、結果は特定のエージェント、タスク群、非公開評価に基づく。長期実行で改善が続くか、評価への過適合をどう防ぐか、自己改変コードをどう監査するかは未解決だ。現時点での妥当な結論は、AIが無条件に進化したということではなく、再帰的自己改善が実現可能で、未知のタスクや分野にも利益を移転し得るという点にある。

出典：Hugging Face Daily Papers