科学的発見ではテスト時メモリ進化が訓練を上回るのか

背景

科学的発見を支援するAIでは、推論時にもタスクに合わせて適応する仕組みが注目されています。通常の推論ではモデルの重みを固定しますが、Test-Time Training（TTT）は発見プロセスの途中でモデルの重みをオンライン更新します。これにより、現在の課題から学習できる一方、推論のたびに追加の最適化計算が必要になります。モデルが大規模になるほど、この負担は無視しにくくなります。

今回の研究は、その代替としてTest-Time Memory Evolution（TTME）を提案しました。

TTMEの仕組み

TTMEは基盤モデルの重みを更新しません。探索、検証、振り返りから得られた経験を抽出し、外部メモリへ継続的に蓄積します。後続の推論では、この進化するメモリを参照して、次の探索方針を決めます。つまり、モデルそのものを訓練する代わりに、現在の発見プロセスに関連する知識の記録を更新する設計です。

評価では、TTMEとTTTを同じ科学的発見フレームワークに組み込み、テスト時適応の部分だけを置き換えました。この条件により、アーキテクチャ全体の違いではなく、重み更新と外部メモリ更新の差を比較しやすくしています。

主な結果は次の通りです。

• 評価した5つの数学タスクすべてで、TTMEがTTTを上回った。
• FLOPsを82.8～84.6%削減した。
• 実行時間を47.7～58.4%短縮した。
• オンラインでの重み更新を必要としない、組み込みやすい手法として設計されている。

意義と今後の課題

この結果は、テスト時適応に必ずしもパラメータ更新が必要ではない可能性を示します。長い探索プロセスでは、得られる経験の多くがその調査に固有のものです。そのため、経験を外部メモリに整理して再利用するだけでも、適応の効果を低い計算コストで得られる可能性があります。大規模モデルや限られた計算資源を使う環境では、実用上の利点になり得ます。

ただし、結論は今回評価された5つの数学タスクと発見設定に基づくものです。あらゆる科学分野やモデルでTTMEがTTTを上回ることを意味するわけではありません。どの経験を保存するか、誤った推論の蓄積をどう防ぐか、メモリが拡大した際の検索効率をどう保つかも重要な課題です。化学、物理、生物などでの検証が今後必要になります。

TTMEは、科学AIの進化をモデルパラメータだけに求めない道筋を示しました。外部メモリに蓄積された構造化経験が、発見エージェントの適応を支える新たな基盤になるかもしれません。

出典：Hugging Face Daily Papers