Agora: Git을 다중 에이전트 연구의 공유 메모리로 활용하다

들어가며

자율 코딩 에이전트는 설정을 바꾸고 실험을 실행하며 더 나은 방법을 찾는 연구 루프를 사람의 지속적인 감독 없이 수행할 수 있다. 그러나 에이전트를 여러 개 실행한다고 자동으로 집단 지성이 만들어지는 것은 아니다. 각 세션이 동일한 초기 상태에서 출발하면 비슷한 실험을 반복하고, 실패 경험이나 중간 발견을 서로 이어받지 못하기 때문이다.

NVIDIA 연구진이 제안한 Agora는 이 문제에 Git을 공유 메모리로 적용한다. 연구 결과를 한 번 덮어쓸 수 있는 로그나 최종 요약으로만 보관하지 않고, 에이전트들이 확인하고 재실행하며 확장할 수 있는 지속적인 연구 그래프로 만든다.

작동 방식

Agora에서는 결과, 가설, 통찰, 검증, 보고서가 각각 변경할 수 없는 Git 커밋으로 기록된다. 커밋의 부모 관계는 특정 주장이 어떤 작업을 바탕으로 만들어졌는지 보여준다. 이 연결이 추가 전용 방향성 비순환 그래프를 구성하므로, 사용자는 관련 상태를 체크아웃해 실험을 재현하고 새로운 탐색 가지를 이어갈 수 있다.

파생 인덱스는 현재 연구 프런티어, 오랫동안 탐색되지 않은 분기, 각 주장의 검증 상태를 드러낸다. 선택 규칙에는 다양성 요소도 포함돼 모든 에이전트가 가장 앞서 보이는 하나의 경로만 따라가는 현상을 완화한다. 논문은 연구 커뮤니티가 하나의 방향에 지나치게 집중했을 때, 중간에 인간이 개입해 탐색 폭을 다시 넓힌 사례도 소개한다.

약 12일간의 실행

첫 번째 장기 실행에서 13개의 언어 모델 워커는 약 12일 동안 사전에 배정된 작업이나 중앙 플래너 없이 가중치 전이 문제를 해결했다. 대상은 어텐션과 상태공간 모듈을 결합한 1억 1,960만 파라미터의 동결 모델이었다. 141개의 사전학습 도너 모델 가운데 대상과 차원이 일치하는 모델은 없었으며, 학습 데이터와 그래디언트 업데이트도 사용할 수 없었다.

워커들은 1,703개의 기여를 공개했고, 평가값을 3.39에서 1.899 bits per byte로 개선했다. 논문은 이를 학습된 GPT-2 124M과의 격차 중 62%를 줄인 결과로 설명한다. 최종 레시피는 도너 모델의 다음 토큰 예측 통계를 대상 모델의 임베딩과 출력 헤드에 압축한 뒤, 어텐션·피드포워드·상태공간 블록을 희소하게 수정해 짧은 범위의 문맥 신호를 추가했다.

의미와 한계

Agora의 핵심 가치는 단순히 더 많은 에이전트를 실행하는 데 있지 않다. Git의 버전 관리, 분기, 복원 기능과 DAG의 의존 관계 표현을 결합해 연구 협업 자체를 구조화한다는 점이 중요하다. 실패한 경로도 사라지지 않고 후속 탐색의 근거로 남으며, 각 결과가 어떤 과정에서 나왔는지 확인할 수 있다.

다만 이번 실행만으로 공유 메모리가 동일한 계산량에서 발견 효율을 높인다고 단정할 수는 없다. 논문도 독립적으로 실행되는 에이전트와의 통제 비교가 필요하다고 명시한다. 앞으로는 낮은 품질의 주장과 오류 전파를 관리하고, 기여도를 평가하며, 탐색의 다양성과 빠른 수렴 사이의 균형을 잡는 문제가 중요해질 것이다.

출처: Hugging Face Daily Papers