수학적 발견의 진짜 병목은 풀이보다 문제를 찾는 일일 수 있다

들어가며: 증명 전에 연구가 막힌다

AI의 수학적 추론 능력이 향상되면서 연구의 희소 자원은 모델의 추론 시간만이 아니게 됐다. 문제가 올바르게 정의됐는지, 실제로 미해결인지, 생성된 논증에 오류가 없는지를 확인하는 전문가의 시간은 더욱 제한적이다. 기존의 AI 보조 연구는 사람이 먼저 문제를 고르고 모델이 풀이를 시도한 뒤 수학자가 결과를 검토하는 방식이었다. 후보와 생성물이 늘어나면 문제 선정과 최종 검증 모두 병목이 될 수 있다.

논문 《The Problem Is the Problem: Towards Scalable Mathematical Discovery》는 FAR라는 파이프라인으로 이 흐름을 바꾸려 한다. 전문가는 처음부터 하나의 문제를 지정하지 않고, 자신의 관심과 전문성이 있는 연구 방향을 제시한다. 시스템은 해당 방향의 문헌을 훑어 시도할 가치가 있는 후보를 찾는다.

핵심 구조: 문헌에서 전문가 검토까지 단계적으로 선별

FAR는 다음 세 단계의 이름을 딴 것이다.

• Find: 광범위한 수학 문헌에서 추측, 미해결 문제, 관련 맥락을 추출한다.
• Attempt: 초기 검사를 통과한 문제에 모델이 접근해 증명이나 해답, 부분적 진전을 시도한다.
• Recommend: 자동 트리아지로 전문가가 확인할 산출물을 우선순위화한다.

조합론 파일럿은 5,245편의 논문에서 6,453개의 추측 또는 미해결 문제를 복원하는 것으로 시작했다. 문제의 표현이 적절해 보이는지, 현재도 미해결로 보이는지를 확인한 뒤 4,717개가 남았다. 다음 추론 및 자동 선별 단계에서는 598개의 잠재적 해답이 드러났고, 그중 77개가 저자 팀 검토 대상으로 선택됐다. 연구진이 보고한 사례에는 Davies–Jenssen–Perkins–Roberts, Erdős–Straus, Ikenmeyer–Pak–Panova, Lund–Saraf–Wolf와 관련된 추측과 문제가 포함된다.

의미와 한계: AI는 연구의 교통정리 역할을 한다

FAR의 중요한 변화는 AI를 ‘사람이 정한 문제에 답하는 도구’에서 ‘어떤 문제에 답할 가치가 있는지 정리하는 도구’로 확장한 데 있다. 문헌 검색, 중복 후보 정리, 미해결 여부의 초기 점검, 낮은 우선순위 결과의 필터링을 자동화하면 모델의 비싼 추론과 전문가의 시간을 더 유망한 후보에 집중할 수 있다.

다만 ‘여전히 미해결로 보인다’는 판단이 엄밀한 미해결 상태를 보장하는 것은 아니다. 잠재적 해답 역시 전문가의 수학적 검증 전에는 확정된 결과가 아니다. 따라서 FAR는 감독 없는 정리 생산기라기보다 연구 탐색과 우선순위 설정을 지원하는 기반으로 보는 편이 정확하다. 이 연구가 던지는 더 큰 시사점은 AI 수학을 확장하려면 추론을 무작정 길게 하는 것뿐 아니라 문제와 전문가의 관심을 어떻게 배분할지도 설계해야 한다는 점이다.

출처: Hugging Face Daily Papers