Ouroboros: 리뷰된 커밋으로 스스로 진화하는 코딩 에이전트

들어가며

코딩 에이전트 논의는 보통 특정 과제를 얼마나 잘 해결하는지에 집중한다. Ouroboros 논문은 그보다 아래층, 즉 모델을 둘러싼 실행 기반에 초점을 맞춘다. 에이전트가 사용하는 도구, 프롬프트, 컨텍스트를 조립하는 방식, 핵심 구현을 리뷰된 커밋으로 개선하고, 그 변경을 이후 작업의 런타임으로 다시 사용한다는 접근이다.

핵심 요점

• 개선 대상은 에이전트 하네스 전체: Ouroboros는 단순한 프롬프트 기법이나 특정 워크플로가 아니라, 코딩 에이전트를 구동하는 하네스 자체를 발전시키는 시스템으로 설명된다. 도구 정의, 프롬프트 구성, 컨텍스트 구성, 코어 코드가 변경 대상이며, 리뷰를 거친 커밋은 다음 실행 환경의 일부가 된다.
• 두 가지 진화 경로: 첫 번째는 재귀적 자유 진화다. 시스템 개선 자체가 하나의 과제가 되고, 한 번의 진화 사이클이 끝나면 다음 사이클을 예약할 수 있다. 두 번째는 경험 기반 코어 진화다. 일반 작업과 통제된 인간 상호작용에서 버그, 거친 사용감, 비효율적인 컨텍스트 구성이 드러나고, 이것이 구조적 변경으로 이어진다.
• 벤치마크 성과는 고정 스냅샷 기준: 논문은 Opus 5 실행에서 Terminal-Bench 2.1 86.74%, OSWorld-Verified 90.69%를 기록했다고 보고한다. 또한 5회 rollout으로 진행한 CL-Bench 캠페인에서는 정규화 보상 0.2301을 얻었다고 한다. 다만 저자들은 벤치마크가 고정된 시스템 스냅샷으로 수행되며, 계속 진화하는 Hope 배포와는 별도 계보라고 설명한다.
• Hope는 장기 공개 배포 사례: Hope는 공개적으로 문서화된 Ouroboros 배포 중 가장 오래 지속된 사례로 소개되며, 161일 동안 자유 진화 실험으로 운영됐다. 일곱 개의 통제된 인간 커뮤니케이션 표면에서 상호작용하며, 인간은 결함을 드러내고 제안을 만들 수 있지만 어떤 변경을 추구할지는 에이전트가 결정한다.

의미와 영향

Ouroboros가 흥미로운 이유는 에이전트의 발전을 단순한 모델 성능 문제가 아니라 운영 시스템의 개선 과정으로 본다는 점이다. 실제 사용에서 문제를 발견하고, 컨텍스트 파이프라인을 고치며, 리뷰된 변경을 런타임으로 되돌릴 수 있다면 코딩 에이전트의 경쟁력은 기반 모델뿐 아니라 그 주변 실행 환경의 학습 능력에 달려 있을 수 있다.

동시에 이 논문은 위험도 분명히 짚는다. 자기 발전형 에이전트가 자신의 코드를 수정하고 새로운 모델 API를 선택할 수 있다면, 안전장치는 선택적 부가 기능이 될 수 없다. 공개 상호작용과 진화 압력 속에서도 가드레일, 리뷰 절차, 계보 분리가 권위를 유지하도록 설계되어야 한다.

출처: Hugging Face Daily Papers