AI가 AI를 만들기 시작했다: RSI를 둘러싼 기업별 경로

들어가며

AI가 차세대 AI 개발에 참여하는 현상은 더 이상 단순한 전망이 아니라 측정 가능한 엔지니어링 과제가 되고 있다. Anthropic이 공개한 내부 자료에 따르면 2026년 8월 기준 Claude는 AI 연구개발 업무의 약 26%에서 ‘주도’ 수준에 도달했다. 90%가 넘는 업무는 최소한 AI 협업 단계에 들어섰으며, 회사 내부 Agent 플랫폼에서는 약 3만 개의 Agent가 연구 및 엔지니어링 작업을 동시에 수행하고 있다.

다만 ‘주도’라는 표현을 완전한 자율화로 이해해서는 안 된다. Anthropic은 연구 자동화를 6단계로 구분한다. AL3는 인간의 긴밀한 지시 아래 AI가 큰 작업을 수행하는 단계이고, AL4는 인간이 상위 목표를 제시하면 AI가 업무 대부분을 처음부터 끝까지 처리하며 인간은 감독과 최종 판단을 맡는 단계다. 완전한 자율 실행에 가까운 단계는 AL5다.

핵심 내용

• 자동화 속도가 빠르다. Anthropic은 AL4에 해당하는 모델 개발 업무의 비중이 6개월 사이 1% 미만에서 26%로 높아졌다고 설명한다. 평가는 사전학습, 강화학습, 평가 시스템 장애 대응, 추론 서비스 사고 분석 등을 포함한 약 1만5000개의 세부 작업을 대상으로 진행됐다.
• 측정에는 주관성이 남아 있다. 최초 분류는 Claude가 수행했고 내부 직원이 교차 검증했다. 모델과 인간의 판단이 상당한 수준으로 일치했지만, ‘협업’과 ‘주도’ 사이의 경계가 완전히 객관적이라고 보기는 어렵다.
• Agent 인프라가 중요해진다. 각 Agent에 독립적인 ID를 부여하고 공유 메시지 시스템을 통해 통신하게 하면, 출처 자료와 실행 기록, 책임 소재를 추적할 수 있다. 수많은 Agent를 운영하려면 모델 성능만큼이나 감사와 관리 구조가 중요하다.
• 기업별 초점은 다르다. OpenAI는 자동화된 AI 연구원의 규모 확대를 추진한다. Google은 답을 찾는 것뿐 아니라 탐색 방법 자체를 개선하려 하고, Recursive는 과거 실험의 지식을 다음 연구에 축적하는 장기 순환 구조를 강조한다.

의미와 한계

이들 접근법은 공통적으로 AI가 코드 작성, 실험 실행, 결과 분석, 인프라 운영을 더 많이 담당하고, 병렬 Agent를 통해 연구 공간을 넓히는 방향을 가리킨다. 그러나 이것이 엄밀한 의미의 RSI, 즉 AI가 스스로 후속 모델을 구축하는 상태를 뜻하지는 않는다.

완전한 RSI에는 모델 능력 향상이 다음 모델의 개선으로 이어지는 안정적인 피드백이 필요하다. 어떤 연구 문제가 가치 있는지 결정하고, 결과가 믿을 만한지 판단하며, 실패한 경로를 중단하는 일을 여전히 인간이 맡고 있다면 이는 고도로 자동화된 연구소에 가깝다. 앞으로의 병목은 후보를 더 많이 만드는 능력보다 결과를 정확하게 검증하고, 평가 지표의 허점을 이용한 가짜 성능 향상을 막는 데 있을 가능성이 크다.

Anthropic, OpenAI, Google, Recursive의 차이는 RSI에 이르는 경로가 하나가 아니라는 점을 보여준다. 중요한 것은 RSI라는 표현 자체가 아니라 어떤 연구 과정이 안정적으로 자동화되고, 인간의 판단이 폐쇄 루프 안에서 얼마나 오래 핵심 역할을 유지하는지다.

출처: InfoQ 中文