OpenAI와 수학계의 갈등, AI 연구 신뢰 위기로 번지다

들어가며

AI 모델이 오랫동안 풀리지 않은 수학 문제에 도전하기 시작한 것은 과학적으로 큰 가능성을 보여준다. 그러나 최첨단 AI 연구소들이 경쟁에서 앞서기 위해 수학적 성과를 서둘러 발표하면서 수학계와의 마찰도 커지고 있다. 필즈상 수상자 25명은 공개서한에서 증명 검증, 새로운 방법의 정리, 기존 연구에 대한 정확한 인용에 충분한 시간이 주어지지 않는다고 지적했다.

논란은 이번 주 구체적인 사건으로 이어졌다. 뉴욕대 교수 트리스탄 벅마스터는 중요한 수학 문제의 해결 과정에서 Anthropic에 근무하는 공동 연구자의 이름을 넣지 말라는 압박을 OpenAI로부터 받았다고 주장했다. 그는 또 연구자들이 Codex를 사용해 얻은 작업을 OpenAI가 활용해, 며칠에 걸친 추론 과정에서 자체적인 획기적 증명을 만든 것이 아니냐고 의문을 제기했다. 해당 증명은 아직 수학계의 검증을 받지 못했다.

핵심 쟁점

• 증명은 발표만으로 완성되지 않는다. 수학적 결과는 동료 검토와 상세한 서술, 다른 연구자들이 이해할 수 있는 설명을 필요로 한다. 발표가 검증보다 앞서면 신뢰성을 판단하고 새 방법을 학문 체계에 편입하기 어려워진다.
• 공로를 구분하기 어려워진다. AI가 해결 경로를 탐색할 때 핵심 아이디어를 찾은 사람, 증명을 완성한 사람, 모델의 기여를 어떻게 나눌지 새로운 기준이 필요하다. 기준이 없으면 표절과 성과 가로채기 논란이 커질 수 있다.
• 연구 데이터의 재활용이 불안을 낳는다. 일부 수학자들은 Codex를 활용해 진행한 연구가 모델 개선에 흡수되어, 원래 연구자보다 AI 연구소가 먼저 성과를 발표할 수 있다고 우려한다.
• 대학과 연구소의 관계도 흔들린다. 캘리포니아공과대 연구자들의 비판을 받은 뒤 OpenAI는 해당 대학에서 열리는 수학 행사의 후원을 철회했다. 갈등이 개인 간 공로 다툼을 넘어섰다는 신호다.

의미와 영향

수학의 가치는 최종 증명이나 최초 발표자의 이름에만 있지 않다. 증명에서 파생되는 개념, 새로운 문제, 교육 과정, 그리고 세대 간 지식 전달이 학문을 구성한다. 공개서한 서명자들은 수학자들이 AI가 낸 결과를 검증하고 설명하며 발전시키지 않는다면, AI가 만든 아이디어는 수학의 정식 지식으로 자리 잡기 어렵다고 말한다.

연구의 유인 구조가 바뀔 가능성도 있다. 최전선 연구소는 막대한 계산 자원을 투입해 원래 연구팀보다 먼저 증명 경로를 찾고 결과를 발표할 수 있다. 연구자가 AI 도구를 사용하면 자신의 연구 방향이 경쟁자에게 노출되거나 연구소의 모델 개선에 이용될 수 있다고 판단한다면, 개방적 협력은 점차 비밀주의로 대체될 수 있다.

이번 공개서한은 수학자 작업반이 6월 발표한 ‘라이덴 선언’의 문제의식을 잇는다. 수학자, 연구기관, 정책 입안자가 LLM을 활용한 증명에 적용할 규칙을 함께 마련해야 한다는 뜻이다. 문제는 수학에만 국한되지 않는다. 소프트웨어 개발과 과학, 창작 분야에서도 AI가 일을 할 수 있는지보다 더 중요한 질문이 떠오르고 있다. 인간은 작업의 책임과 의미, 지식의 전승을 어떻게 지킬 것인가라는 질문이다.

TechCrunch AI