Athanor、AIエージェントによる自律型LLM後学習を実証

導入

AIがより強いAIを作るという再帰的自己改善は、将来の知能向上を語る際によく登場するテーマです。Athanorが検証するのは、より限定された現実的な問いです。すなわち、最先端のAIエージェントは公開データだけを使い、小規模なベースモデルを自律的に汎用モデルへ後学習できるのでしょうか。

Athanorの仕組み

Athanorは、単一の訓練レシピではなく、研究作業全体をエージェントに開放するシステムです。エージェントはサンドボックス内で実GPU、ジョブ管理、固定された評価、汚染を除いたデータ、過去の試行を保存する研究記録を利用します。そのうえで、データと評価結果を読み、訓練用データを作り、学習アルゴリズムを書き換え、ハイパーパラメータを調整し、次の実験を決めます。

外部の教師モデルは利用できません。また、エージェントが存在を知らないホールドアウト評価も用意されています。これにより、開発用ベンチマークだけに合わせる過学習を確認しやすくしています。

実験結果

104時間のキャンペーンでは、4体のClaude Opus 5.5が協調し、それぞれ8基のGPUを搭載したノードを使いました。Qwen3-4B-Baseの6タスク開発スイートの平均スコアは15.9から67.3へ、非公開スイートでは9.2から48.2へ上昇しました。比較対象である公式のQwen3-4B-Instruct-2507は、それぞれ66.5と47.9でした。

注目すべき点は、成果の経路です。エージェントはまったく新しい学習理論を発明したのではなく、公開された推論データによる教師あり微調整、強化学習、あるエージェントが導入したロールアウト変更、さらに互いが作ったモデルなど、既知の要素を組み合わせました。したがって、この実験は独創性だけでなく、実験の実行、比較、改善判断を評価しています。

意義と限界

Athanorの重要性は、モデル改善を具体的な閉ループとして測定したことにあります。データ作成、コード変更、GPUジョブ、評価、過去の結果の記憶を一つにつなぎ、エージェントが人間から細かな研究指示を受けずに反復しました。これは、現在のエージェントが後学習エンジニアリングの一部を担える可能性を示します。

ただし、完全なAI科学者の誕生を意味するわけではありません。実験は特定のモデル、公開データ、ツール設計、時間枠に依存しています。示されたのは、既知の手法を再構成し実行できる能力であり、新しい訓練原理を継続的に発見できるという証明ではありません。

今後は、別のモデルやタスクでの再現、より長い実験、より少ない人間側の前提が試されるでしょう。成功すれば、LLMの後学習は人間が操作する工程から、エージェントが運営する研究環境へ近づくかもしれません。

出典：Hugging Face Daily Papers