言語モデルが分子最適化器を改良、力計算を削減する AutoSella

導入

量子化学のワークフローでは、分子の安定した幾何構造を求めるために、原子位置を少しずつ更新しながらエネルギーと力を何度も計算します。幾何最適化の各ステップには通常、1回の力評価が必要です。特に密度汎関数理論（DFT）では、この評価が計算時間の大部分を占めることがあります。そのため、力を呼び出す回数の削減は、全体の高速化に直結します。

論文「Optimizing the Optimizer: Language Models Discover Faster Molecular Relaxation」では、言語モデルのエージェントが最適化アルゴリズムそのものを改良できるかが検討されました。研究チームは分子構造を直接予測させるのではなく、オープンソースの分子幾何最適化器 Sella を書き換え、同程度の最適化結果をより少ない力評価で得ることを目指しました。

主なポイント

• Sella から出発：素材では Sella が利用可能な最速のオープンソース最適化器と説明されています。探索の目的は、品質を保ったまま力呼び出し数を減らすことでした。
• 低コスト計算で探索：候補の検証には比較的安価な GFN2-xTB 計算を使用しました。探索中に DFT の勾配は使われていません。
• 2つの受け入れゲート：最適化が早く終わりすぎる候補や、探索に使った分子だけで有効な候補は棄却されました。これにより、単なる早期終了や過学習による見かけの高速化を抑えています。
• 2種類の AutoSella：探索から2つの最適化器が得られ、未知の分子ベンチマークと、探索に使っていないポテンシャルの双方で Sella より力評価を減らしました。
• DFT への転移：r2SCAN-3c DFT テストでは、最も良い変種の力呼び出し数が Sella の 40.2%から77.2%でした。削減幅にすると約22.8%から59.8%です。

意義と限界

この研究のポイントは、言語モデルが単に速いコードを書いたことではありません。モデルがアルゴリズム変更を提案し、実験を自動実行し、信頼性と汎化性を確認したうえで、基準を満たす変更だけを残す閉ループを構築したことにあります。性能を計算資源や収束結果で測定しやすい数値最適化器は、この方式と相性の良い対象です。

さらに、安価なポテンシャルで探索した改良が DFT にも移った点は注目されます。一方、素材が示しているのはベンチマーク上の結果であり、すべての分子、ポテンシャル、収束条件で AutoSella が優れることを意味するわけではありません。実際の利用では、収束の安定性や最終エネルギーを個別のワークフローで確認する必要があります。

今後、言語モデルは科学コードの生成だけでなく、更新則、停止条件、計算資源の配分といった数値アルゴリズムの探索にも関わる可能性があります。AutoSella は、候補生成をエージェントに任せ、再現可能な実験と未知データでの検証によって採否を決める方法の具体例です。

出典：Hugging Face Daily Papers