AIコーディングモデルをIOI金メダル級へ導く後学習と探索

導入

競技プログラミングは、言語モデルの推論能力を測る厳しい試験の一つだ。単に動くコードを出力するだけでは不十分で、問題文の正確な理解、効率的なアルゴリズムの設計、境界条件への対応、そして制限時間内での実装が必要になる。IOIのような大会では提出回数や利用できる時間にも制約がある。今回の研究は、汎用モデルを体系的に後学習することで、こうした環境で金メダル級の性能を引き出せるかを検討している。

核心となるポイント

• 一連の専門化パイプライン。 研究チームは2万2,000問の競技プログラミング問題を選別し、合成推論トレース、教師ありファインチューニング（SFT）、強化学習（RL）を組み合わせた。
• 規模と学習手法を比較。 Nemotron-3-Nano-CCは30B-A3Bモデルで、SFTとRLの両方を実施した。一方、Nemotron-3-Ultra-CCは550B-A55Bモデルで、SFTのみを用いた。
• 推論時にも解答を改善。 GenCorrectは一つの解答に依存せず、複数の候補を生成し、フィードバックをもとに評価・選別・修正を繰り返す。生成、検査、修復を一つのループとして扱う発想だ。
• 評価スコアが上昇。 IOI 2025の評価で、Nano-CCは初期状態の130点から、後学習後に291点へ上昇した。GenCorrectを加えると468点となり、438.3点の金メダル基準を超えた。Ultra-CCは502点だった。
• 大会向けシステムへ発展。 研究チームは結果をもとに競技専用のUltra-CCシステムを構築し、IOI 2026で前向き評価を実施した。人間選手と同じ時間、インターネット利用、提出制約の下で535.4/600点を得たと報告している。これは金メダル基準361.12点と、最高得点の人間選手の498.27点を上回る。

意義と限界

この成果の重要性は、単一のモデル規模やスコアだけにない。問題データの設計、解法過程の合成、SFT、RL、さらに推論時の計算量を連携させることで、競技向け能力を段階的に強化している点にある。競技プログラミングではコードを実行し、テストできるため、自然言語の自由回答よりも具体的なフィードバックを得やすい。複数解を試す仕組みは、誤った解釈や小さな実装ミスの影響を抑える可能性もある。

ただし、結果の範囲は明確に捉える必要がある。対象は自動採点される、ルールの明確な競技環境であり、専用データと専用推論手順も使われている。IOIで高得点を取ることは、要件定義、巨大なコードベースの保守、長期的な信頼性といった実際のソフトウェア開発能力を、そのまま意味するものではない。未知の問題分布やコスト制約への移行も今後の検証課題だ。

それでも本研究は、コーディングAIの進歩が事前学習の規模だけでなく、後学習と推論時探索をどう組み合わせるかに左右されることを示している。

出典：Hugging Face Daily Papers