힌턴의 첫 RSI 논문: AI 연구 자동화가 지능 폭발을 일으킬까

들어가며

재귀적 자기개선(RSI)은 더 이상 공상과학에만 머무는 개념이 아니다. 제프리 힌턴, 요슈아 벤지오, 앤드루 바토, OpenAI 최고과학자 야쿠브 파초츠키 등이 참여한 논문 *What if automating AI R&D triggers an intelligence explosion?*은 AI가 차세대 AI 연구개발을 돕고, 더 강력해진 AI가 다시 다음 연구를 가속하는 순환이 실제로 만들어질 수 있는지 묻는다.

핵심 내용

• 단순한 코드 작성 자동화가 아니다. 완전한 AI 연구 자동화에는 연구 가설 제시, 실험 설계, 학습과 평가 실행, 결과 해석, 실패 원인 분석, 연구 방향 수정이 모두 포함돼야 한다. 개별 코딩 작업을 처리하는 시스템은 여전히 보조 도구에 가깝다. 여러 단계를 장기간 연결해 수행해야 연구자에 가까워진다.
• AI는 연구 흐름에 점점 더 깊이 들어가고 있다. 논문은 AI가 생성해 승인된 코드의 비중과, 높은 수준의 인간 감독 아래 AI가 맡는 연구 업무의 비중이 짧은 기간 동안 크게 늘었다는 연구소 내부 지표를 소개한다. 다만 이 수치가 AI가 연구소 전체 연구의 일정 비율을 완전히 독립 수행한다는 뜻은 아니다.
• 복제 가능한 연구자는 연구 공급 구조를 바꿀 수 있다. 인간 연구자를 양성하려면 오랜 시간이 필요하지만, AI 연구 에이전트는 추론 컴퓨팅을 추가해 여러 인스턴스로 확장할 수 있다. 기반 모델이 업데이트되면 많은 인스턴스가 동시에 새로운 능력을 얻을 가능성도 있다. 논문은 이를 ‘유효 연구개발 노동력’이라는 개념으로 설명한다.
• 가속에는 연구 수익률이 중요하다. 연구 투입을 늘린다고 기술 진보가 같은 비율로 커지는 것은 아니다. 에이전트가 같은 작업을 반복하거나 최전선의 문제가 점점 어려워지면 규모 확대의 효과가 감소할 수 있다. 새 연구 역량이 다음 세대 AI의 연구 능력을 실제로 높여야 자기강화 루프가 작동한다.

의미와 한계

논문이 주목하는 경로는 ‘소프트웨어 주도 지능 폭발’이다. 알고리즘, 학습 방식, 에이전트 워크플로와 합성 데이터 전략은 칩이나 데이터센터보다 빠르게 배포될 수 있다. 그러나 소프트웨어의 빠른 개선이 현실의 제약을 없애지는 못한다. GPU는 즉시 늘어나지 않고, 대규모 학습에는 여전히 시간이 필요하며, 고품질 데이터도 부족해질 수 있다. 많은 에이전트가 같은 실험 자원을 공유하면 중복 작업과 대기 문제가 발생할 수도 있다.

따라서 이 논문은 지능 폭발이 이미 시작됐다고 선언하지 않는다. 대신 AI 연구 자동화가 과거의 추상적인 가설을 안전성, 거버넌스, 사전 대비가 필요한 현실의 문제로 바꾸고 있다고 본다. 앞으로 관찰해야 할 핵심은 단일 벤치마크 점수가 아니라, AI가 긴 연구 과정을 안정적으로 수행하고 AI 연구 자체의 개선 주기를 지속적으로 단축할 수 있는지다.

출처: QbitAI