NemotronがIMO金メダルを目指す：学習と推論時探索を組み合わせた開放型レシピ

はじめに

数学オリンピックの問題を解くことと、採点で点を得られる証明を書くことは同じではない。正しい方針を見つけるだけでなく、長い推論の途中で誤りを避け、必要な論証を明確に並べる必要がある。論文「An Open Recipe for IMO Gold」は、Nemotron 3 Ultraを使い、モデルの追加学習と推論時の設計を組み合わせてこの課題に取り組んだ。

主なポイント

• 数学向けの専門化。 Nemotron 3 Ultraを出発点に、教師あり微調整と強化学習で2つの専門チェックポイントを訓練した。狙いは、難しいオリンピック数学を自然言語で証明する能力の向上だ。
• 検証を反復ループに組み込む。 解答を一度だけ生成するのではなく、候補証明を作成し、検証し、書き直す。複数のNemotronチェックポイントがこの流れに参加し、検証結果を次の試行に反映する。
• 推論時計算を活用。 最終提出物は、別の高計算量ステージで候補を比較して選択する。難しい推論では、パラメータの能力だけでなく、実行時にどれだけ計算するかも重要になる。
• 外部の数学ツールを使わない。 論文の説明では、形式化された証明器、外部ツール、インターネットを利用せず、すべて自然言語で処理する。
• 研究資産を公開。 2つの追加学習済みチェックポイント、訓練データ、訓練・推論コード、提出解答に加え、新作のオリンピック級問題200問からなるNemotron-IMO-Benchを公開する。

結果と限界

論文によれば、このシステムはIMO 2026で42点中30点を獲得し、示された金メダル基準に達した。重要なのは点数だけではない。チェックポイントの選択、検証、修正、推論予算をひとつの実験設計にまとめ、各要素の役割を調べられる形にした点にも価値がある。

一方で、結果を過大評価するべきではない。自然言語による検証は、巧妙な論理ミスを見逃す可能性がある。また、反復探索には大きな計算量が必要になる場合がある。提供された概要だけでは、各部品の独立した効果や、個別問題ごとの証明の信頼性までは判断できない。公開されるベンチマークは、こうした点を検証する土台になりそうだ。

意義

この研究は、数学推論を単発の生成に任せず、専門訓練、自己検証、反復修正、高い推論予算を組み合わせる実務的な方向性を示している。公開された資産が再現可能なら、どの構成要素が成果に寄与したのかを分析し、定理証明、科学的推論、教育評価への応用を検討しやすくなる。

出典：Hugging Face Daily Papers