AI 에이전트 팀이 ‘함께 추론하는 방법’을 스스로 배운다

들어가며

AI 에이전트를 여러 개 연결한다고 해서 자동으로 집단 지능이 생기는 것은 아닙니다. 핵심은 누가 언제 발언하고, 어떤 추론을 검증하며, 부분적인 아이디어를 어떻게 최종 답으로 합칠지 결정하는 데 있습니다. 기존 멀티에이전트 시스템은 고정된 역할, 사전 정의된 작업 분해, 또는 독립 답변 중 하나를 고르는 라우터에 의존하는 경우가 많습니다. 그러나 해법의 구조가 처음부터 정해지지 않은 문제에서는 이러한 설계가 유연하지 않을 수 있습니다.

Hugging Face Daily Papers에 소개된 연구는 **Self-Organizing Agent Teams(SAT)**를 제안했습니다. SAT는 고정된 에이전트 팀이 이전 협업 경험을 통해 ‘추론을 어떻게 조직할지’를 학습하도록 합니다. 더 강한 단일 모델을 만드는 대신, 팀 자체가 작업 구조를 습득하게 하는 접근입니다.

핵심 내용

• 팀의 운영 방식을 학습한다. 어떤 에이전트가 언제 참여할지, 역할이 어떻게 나뉠지, 대화를 어떤 단계로 진행할지, 정보가 팀 안에서 어떻게 이동할지를 학습합니다.
• 부분 추론을 협업 계산으로 바꾼다. 에이전트들은 추론을 교환하고, 서로의 주장을 검증하며, 오류를 고치고, 남은 내용을 종합합니다. 최종 해답은 어떤 구성원도 독립적으로 만들지 못했던 결과일 수 있습니다.
• 학습한 전략을 새로운 과제에 적용한다. 두 가지 독립적인 설정에서 수학 문제 15개와 대학원 수준 지식 문제 25개만으로 팀 전략을 학습한 뒤, 이를 보지 못한 벤치마크에 그대로 전이했습니다.
• 단일 에이전트 기준선을 넘어선다. 5개 수학·물리 벤치마크에서 SAT의 평균 정확도는 66.7%였습니다. 가장 강한 구성원은 48.8%, 계산량을 맞춘 단일 에이전트 추론은 58.7%, 각자의 독립 답변 중 최선의 답을 완벽하게 고른다고 가정한 라우터는 59.0%였습니다. AIME 2026에서는 SAT가 라우터보다 13.4%포인트 높았습니다.
• 협업의 효과는 문제에 따라 달라진다. 연구진은 팀이 올바른 추론과 잘못된 추론을 구분할 수 있는지를 나타내는 조직심리학 개념인 ‘시연 가능성(demonstrability)’을 분석했습니다. 8개 벤치마크에서 이 지표는 가장 강한 구성원 대비 성능 향상과 강하게 연관됐으며, Spearman 상관계수는 0.90, p값은 0.005였습니다.

의미와 한계

SAT는 멀티에이전트 연구의 질문을 ‘모델을 몇 개 사용할 것인가’에서 ‘집단 작업의 구조를 학습할 수 있는가’로 확장합니다. 올바른 중간 추론을 알아볼 수 있는 문제에서는 반박과 수정이 분산된 능력을 결합할 수 있습니다. 반대로 정답 여부를 판별하기 어려운 문제에서는 대화량을 늘리는 것이 반복이나 공동 오류로 이어질 수 있습니다.

다만 이번 결과는 연구 범위 안에서 해석해야 합니다. 팀 전략은 제한된 수의 예시로 학습됐고, 벤치마크마다 성능 향상 폭도 달랐습니다. 따라서 자기조직화가 모든 과제에서 항상 우월하다는 결론은 아닙니다. 그럼에도 조직화 능력 자체가 에이전트의 새로운 능력이 될 수 있음을 보여주며, 협업 비용과 안정성, 신뢰할 만한 정답 신호가 없을 때 집단 오류를 제어하는 방법을 후속 과제로 제시합니다.

출처: Hugging Face Daily Papers