OpenAI의 나비에–스토크스 문제 해결 주장에 수학계가 긴장한 이유

들어가며

OpenAI는 미공개 모델이 약 88시간 만에 나비에–스토크스 문제의 해답을 찾았다고 발표했다. 유체의 움직임을 다루는 이 문제는 클레이 수학연구소의 ‘밀레니엄 난제’ 가운데 하나로, 오랫동안 수학자들을 막아온 대표적인 문제다. 해결자에게는 100만 달러의 상금이 걸려 있지만, OpenAI는 상금을 청구할 계획이 없다고 밝혔고 클레이 연구소의 공식 인증도 아직 이뤄지지 않았다.

AI가 수학 연구를 가속한 기념비적 성과가 될 수 있었던 발표는 연구 과정에 대한 논란으로 복잡해졌다. 쟁점은 AI가 난제를 풀 수 있는지에 그치지 않는다. 막대한 컴퓨팅 자원을 가진 기업이 다른 연구자들의 진전을 파악한 뒤 연구에 뛰어들면서 학계의 관행을 흔들 수 있는지가 문제로 떠올랐다.

핵심 내용

• OpenAI는 내부 모델로 구동되는 약 1만 개의 에이전트를 문제에 투입해 나흘이 채 되지 않아 결과를 얻었다고 밝혔다.
• 회사는 다른 연구자들이 밀레니엄 난제에서 진전을 보이고 있다는 소문을 소셜미디어에서 본 것이 연구 착수의 계기였다고 설명했다.
• 뉴욕대 수학자 Tristan Buckmaster와 Anthropic 연구자 Levent Alpöge는 OpenAI 발표에 앞서 관련 문제에 대한 연구를 공개했다. Buckmaster는 이후 OpenAI와의 대화가 적대적으로 변했다고 주장했다.
• OpenAI는 특정 사용자 데이터에 접근했다는 의혹을 부인했다. 다만 제품 사용에서 나온 비식별화 데이터가 모델 개선에 간접적으로 기여했을 가능성은 완전히 배제할 수 없다고 밝혔다.
• 수학자들은 성과의 출처와 우선권이 불분명해지면 미완성 아이디어를 공유하게 하는 학계의 신뢰가 약화될 수 있다고 우려한다.

왜 중요한가

수학 연구는 공개적인 논의에 크게 의존한다. 연구자들은 완성되지 않은 논증을 동료에게 공유하고 피드백을 받으며 아이디어를 발전시킨다. 여기에는 대화가 즉시 경쟁의 무기로 바뀌지 않을 것이라는 암묵적 신뢰가 깔려 있다. 만약 서비스에 입력한 모호한 질문까지 모델에 흡수되고 수천 개의 에이전트가 이를 탐색할 수 있다면, 연구자들은 동료와의 논의는 물론 AI 도구 사용도 꺼리게 될 수 있다.

이번 사건의 의미는 단순한 선점 경쟁을 넘어선다. 학술 경쟁은 새로운 현상이 아니지만, 일반적으로 저자 자격, 연구 시점, 동료평가 같은 장치로 정리된다. AI는 단편적인 정보와 대규모 연산, 자동 탐색을 결합해 경쟁의 속도와 규모를 바꿀 수 있다. 학습 데이터와 제품 로그, 연구 시스템 사이에 검증 가능한 분리가 없다면 결과가 독립적으로 도출됐는지, 다른 연구의 간접적 영향을 받았는지 외부에서 판단하기 어렵다.

이번 발표는 AI가 수학 연구를 가속할 가능성과 동시에 새로운 거버넌스 공백을 드러냈다. 앞으로는 데이터 사용 기록, 감사 가능한 시스템 분리, 연구 우선권과 기여도에 대한 공통 규칙이 필요하다. 그렇지 않으면 AI는 문제 해결을 빠르게 만들면서도 수학자들이 문제 자체를 공유하는 일을 더 어렵게 만들 수 있다.

출처: The Verge AI