Athanor, AI 에이전트의 자율적 LLM 후학습을 실험하다

들어가며

AI가 더 강한 AI를 만드는 재귀적 자기개선은 초지능 논의에서 자주 등장하는 주제입니다. Athanor는 이 거대한 주장을 바로 검증하려 하지 않고, 현재 측정 가능한 더 좁은 질문을 다룹니다. 최전선 AI 에이전트가 공개 데이터만 사용해 작은 기반 모델을 자율적으로 범용 모델로 후학습할 수 있는가라는 질문입니다.

Athanor의 연구 환경

Athanor는 특정 학습 레시피보다 연구 과정 전체를 에이전트에게 개방하는 시스템입니다. 에이전트는 샌드박스 안에서 실제 GPU, 작업 관리 기능, 고정된 평가, 오염을 제거한 데이터, 과거 실험을 저장하는 연구 기록을 이용합니다. 데이터와 평가 결과를 읽고, 학습 데이터를 만들며, 알고리즘과 코드를 수정하고, 하이퍼파라미터를 조정한 뒤 다음 실험을 스스로 선택해야 합니다.

외부 교사 모델은 사용할 수 없도록 제한했습니다. 또한 에이전트가 존재를 알지 못하는 별도 평가 세트를 두어, 공개 개발 세트에만 맞춘 과적합인지 확인할 수 있게 했습니다.

실험에서 나타난 성과

104시간 동안 진행된 캠페인에는 Claude Opus 5.5 에이전트 네 개가 참여했습니다. 각 에이전트는 8개 GPU가 장착된 노드를 사용했습니다. Qwen3-4B-Base의 6개 과제 개발 세트 평균 점수는 15.9에서 67.3으로 올랐고, 숨겨진 평가 세트 점수는 9.2에서 48.2로 상승했습니다. 비교 대상인 공식 Qwen3-4B-Instruct-2507은 두 세트에서 각각 66.5와 47.9를 기록했습니다.

성과를 만든 방식도 중요합니다. 에이전트가 완전히 새로운 학습 패러다임을 발명한 것은 아닙니다. 공개 추론 데이터에 대한 지도 미세조정, 강화학습, 한 에이전트가 도입한 롤아웃 변경, 서로 만든 모델 등을 조합하고 반복했습니다. 따라서 이 실험은 알고리즘의 독창성만이 아니라 데이터 구성, 실행, 비교와 다음 실험을 정하는 능력을 함께 평가합니다.

의미와 한계

Athanor의 핵심 기여는 모델 개선을 측정 가능한 폐쇄 루프로 만든 데 있습니다. 데이터 작성, 코드 수정, GPU 작업, 평가, 과거 결과의 기록을 연결해 에이전트가 세부적인 연구 지시 없이 반복 실험을 수행하도록 했습니다. 이는 현재의 최전선 에이전트가 후학습 엔지니어링과 실험 설계의 일부를 맡을 수 있음을 보여줍니다.

다만 이를 완전한 AI 연구자의 등장으로 해석해서는 안 됩니다. 실험은 특정 모델과 공개 데이터, 도구 설계, 제한된 시간 안에서 수행됐습니다. 결과가 입증하는 것은 알려진 기법을 재조합하고 실행하는 능력이지, 새로운 학습 원리를 일관되게 발견하는 능력이 아닙니다.

앞으로는 다양한 모델과 과제에서의 재현성, 더 긴 연구 캠페인, 인간이 미리 설정하는 가정의 축소가 중요한 검증 과제가 됩니다. 이러한 조건에서도 성과가 이어진다면, LLM 후학습은 사람이 직접 운영하는 파이프라인에서 에이전트가 관리하는 연구 환경으로 이동할 수 있습니다.

출처: Hugging Face Daily Papers