에이전트를 ‘무상태’로 만드는 장기 자동 연구의 설계

들어가며

대규모 언어 모델의 추론량을 늘린다고 해서 장기 자동 연구의 성과가 반드시 함께 커지는 것은 아니다. 에이전트가 오랫동안 실행되면 점점 길어지는 기록을 반복해서 읽고, 다른 에이전트가 이미 수행한 실험을 되풀이하거나, 실제 실험은 멈춘 채 토큰만 소비할 수 있다. 이 문제는 모델의 능력뿐 아니라 연구 상태를 어디에 저장하고 다음 시도를 누가 결정하는지와 관련된다.

스탠퍼드대 연구진은 논문 ‘Stateless Language Agents: Scaling Long-Horizon Automated Research’에서 Stateless Language Agents, 즉 SLA를 제안했다. 핵심 원리는 ‘상태를 가진 탐색과 상태가 없는 에이전트’의 결합이다.

핵심 설계

• 지속 상태를 하니스가 관리한다: 후보 해법, 탐색 방향, 측정 결과를 에이전트의 대화가 아니라 외부 실행 시스템에 저장한다.
• 호출마다 문맥을 재구성한다: 에이전트는 이전 대화를 이어받지 않고, 역할에 맞게 선별된 정보만 새로 받는다. 어떤 정보를 보여줄지 시스템 차원에서 통제할 수 있다.
• 계획과 실행을 나눈다: 무상태 Advisor가 탐색 방향별 요약 증거를 검토하고 구체적인 실험을 병렬 Workers에 배정한다. Workers는 실험을 수행하고 측정 가능한 결과를 돌려준다.
• 긴 예산에서 평가한다: 소프트웨어 공학, 커널 최적화, 알고리즘 설계 과제에서 최대 10억 토큰을 사용해 세 가지 최신 프레임워크와 비교했다.

결과와 시사점

논문 초록에 따르면 SLA는 평가한 모든 과제에서 가장 좋은 최종 결과를 기록했다. 커널 최적화에서는 가장 강한 기준선이 최종 성능에 도달하는 데 사용한 토큰보다 84% 이상 적은 토큰으로 같은 수준에 도달했다. 공통 체크포인트를 활용한 소거 실험은 집중된 문맥과 명시적인 작업 배정이 각각 성과에 기여하며, 장기 실행에서는 효과가 누적될 수 있음을 보여준다. Advisor의 토큰 사용량은 전체의 0.6% 미만이었다.

이 연구의 중요한 메시지는 더 많은 대화 기록이 더 나은 연구 기억을 뜻하지 않는다는 점이다. 반복 실험이 핵심인 과제에서는 모든 에이전트가 전체 기록을 다시 읽도록 하기보다, 후보와 결과를 구조화해 저장하고 역할에 필요한 증거만 전달하는 방식이 효율적일 수 있다. 명확한 작업 배정은 중복을 줄이고 병렬 탐색이 계속 진행되도록 돕는다.

또한 짧은 평가만으로는 장기 실행에서 나타나는 중복, 정체, 문맥 처리 비용을 포착하기 어렵다. 무상태라는 말은 기억이 없다는 뜻이 아니라, 지속적인 기억을 암묵적인 대화 기록에서 관리 가능한 탐색 상태로 옮긴다는 뜻이다. 앞으로 자동 연구 시스템의 경쟁력은 좋은 아이디어를 내는 능력뿐 아니라, 증거를 정확히 기록하고 다음 실험을 선택하며 아직 검증되지 않은 방향에 계산 자원을 배분하는 능력에 달릴 수 있다.

Hugging Face Daily Papers