Nemotron의 IMO 금메달 레시피: 학습과 테스트 시점 탐색의 결합

들어가며

올림피아드 수학 문제를 푸는 것과 채점 가능한 증명을 작성하는 것은 다르다. 모델은 풀이 방향을 찾는 데서 그치지 않고, 긴 논리 전개에서 오류를 피하며 핵심 근거를 명확하게 제시해야 한다. 논문 ‘An Open Recipe for IMO Gold’는 Nemotron 3 Ultra를 출발점으로 모델 후훈련과 테스트 시점 추론 설계를 결합해 이 문제를 다룬다.

핵심 내용

• 수학 전문 모델로 후훈련. 연구팀은 Nemotron 3 Ultra에 지도 미세조정과 강화학습을 적용해 두 개의 전문 체크포인트를 훈련했다. 목표는 어려운 올림피아드 수학을 자연어 증명으로 풀어내는 능력이다.
• 검증을 반복 루프에 포함. 답을 한 번 생성하고 끝내지 않고, 후보 증명을 만들고 검토한 뒤 다시 수정한다. 여러 Nemotron 체크포인트가 이 과정에 참여하며, 검증 결과가 다음 시도에 반영된다.
• 추론 시 계산량 활용. 최종 제출 답안은 별도의 고계산량 단계에서 후보들을 비교해 선택한다. 복잡한 추론에서는 모델 파라미터의 능력뿐 아니라 실행 시 투입하는 계산 예산도 중요한 설계 요소가 된다.
• 외부 도구에 의존하지 않음. 논문에 따르면 시스템은 형식 증명기, 외부 도구, 인터넷을 사용하지 않고 자연어만으로 작동한다. 따라서 도구 호출 중심의 정리 증명 시스템과는 다른 언어 모델 기반 접근에 가깝다.
• 연구 자산 공개. 두 개의 후훈련 체크포인트, 훈련 데이터, 훈련·추론 코드, 제출 답안과 함께 새로운 올림피아드 수준 문제 200개를 담은 Nemotron-IMO-Bench를 공개한다.

결과와 한계

논문은 이 시스템이 IMO 2026에서 42점 중 30점을 얻어 제시된 금메달 기준에 도달했다고 보고한다. 의미는 점수에만 있지 않다. 체크포인트 선택, 검증, 수정, 추론 예산을 하나의 실험 틀 안에서 다루면서 각 구성 요소의 역할을 비교할 수 있게 했다는 점도 중요하다.

다만 결과를 곧바로 완전한 수학적 신뢰성으로 해석해서는 안 된다. 자연어 검증은 미묘한 논리 오류를 놓칠 수 있고, 반복 탐색에는 상당한 계산량이 필요할 수 있다. 제공된 요약만으로는 각 구성 요소의 독립적인 기여도나 문제별 증명의 품질을 판단하기 어렵다. 공개되는 벤치마크는 이런 질문을 추가로 검증할 수 있는 기반이 될 전망이다.

의미와 영향

이 연구는 수학 추론을 단일 생성에 맡기기보다 전문 훈련, 자기 검증, 반복 수정, 충분한 테스트 시점 계산을 조합하는 실용적 방향을 보여준다. 공개된 모델과 코드가 재현 가능하다면, 성능 향상이 어디에서 나왔는지 분석하고 정리 증명, 과학적 추론, 교육 평가로의 확장 가능성을 연구하기 쉬워진다.

출처: Hugging Face Daily Papers