SwarmEvolve, 잠재 공간에서 협력하는 에이전트 군집

배경

대규모 언어 모델 기반 진화 탐색은 후보 프로그램을 만들고, 평가하고, 높은 점수를 받은 방법을 변형하거나 결합하는 과정을 반복합니다. 수학적 발견과 과학 계산 문제에 적용할 수 있지만, 매 라운드마다 여러 후보에 대해 긴 추론 텍스트를 생성해야 합니다. 이 비용은 개체군의 규모를 키울수록 커지고, 비슷한 설명이나 아이디어가 반복되면서 탐색 다양성이 줄어들 수도 있습니다.

SwarmEvolve는 이 문제를 텍스트 생성량만 줄이는 방식으로 해결하지 않습니다. 대신 수백 개의 비교적 저렴한 에이전트를 여러 군집으로 운영하고, 중간 사고 과정을 모두 자연어로 디코딩하지 않은 채 모델의 잠재 표현을 통해 탐색과 통신을 수행합니다.

핵심 구성

• 병렬 스웜 탐색: 수백 개의 에이전트를 여러 스웜으로 나눕니다. 각 스웜은 같은 문제를 서로 다른 관점에서 살펴보며 후보 방향의 폭을 넓히는 역할을 합니다.
• 잠재 공간 추론: 모든 중간 추론을 긴 텍스트로 출력하지 않습니다. 반복적인 텍스트 생성과 컨텍스트 처리를 줄여 많은 에이전트를 동시에 실행하려는 접근입니다.
• KV 캐시 통신: 에이전트는 긴 요약문을 주고받는 대신 어텐션 메커니즘에 사용되는 KV 캐시를 전달합니다. 요약 에이전트는 스웜 구성원들의 결합된 캐시를 받아 새로운 후보나 탐색 방향을 구성합니다.
• 은닉 상태 기반 새로움 필터: 에이전트의 은닉 상태 벡터 사이 거리를 직접 비교해 서로 다른 표현을 가진 아이디어를 남깁니다. 텍스트의 표면적 차이보다 내부 표현을 다양성의 대리 지표로 사용하는 방식입니다.

이 설계에서는 후보 생성, 정보 공유, 아이디어 교차의 일부가 읽을 수 있는 텍스트 바깥에서 이뤄집니다. 최종 프로그램은 여전히 문제별 평가기로 점수를 받아야 하지만, 고빈도 탐색 루프 전체가 자연어 통신에 의존하지는 않습니다.

보고된 결과와 한계

논문 초록에 따르면 SwarmEvolve는 수학적 발견과 과학 계산에 관한 21개 문제에서 가장 높은 평균 점수를 기록했습니다. 다른 최신 프레임워크가 약 60분에 도달한 최고 점수에 중앙값 3~8분 만에 도달했다고 보고합니다. 또한 Qwen3 8B를 사용했을 때 여러 문제에서 AlphaEvolve가 프런티어 모델로 처음 발견한 해보다 나은 결과를 얻었다고 설명합니다. 실험에는 Qwen3 8B, 14B, 32B가 포함됩니다.

이 결과는 하나의 에이전트를 더 크게 만드는 대신, 작은 에이전트 집단이 더 넓은 방향을 탐색함으로써 성능을 보완할 수 있음을 시사합니다. 다만 벽시계 시간이 짧다고 해서 총비용이 항상 낮아지는 것은 아닙니다. 실제 효율은 병렬 하드웨어, KV 캐시의 저장·전송 부담, 후보 프로그램을 평가하는 비용에 좌우됩니다.

은닉 상태 거리에도 해석상의 한계가 있습니다. 두 표현의 거리가 멀다고 해서 알고리즘 수준에서 정말 새로운 아이디어라는 뜻은 아닙니다. 반대로 잠재 공간에서 이뤄진 교차가 최종 코드에 어떤 영향을 미쳤는지 추적하기도 어렵습니다. 장기간 실행했을 때 서로 다른 스웜이 비슷한 영역으로 수렴하는지, 모델이 달라져도 캐시 기반 통신이 가능한지는 추가 검증이 필요합니다.

의미와 영향

SwarmEvolve의 핵심 가치는 단순히 에이전트 수를 늘린 데 있지 않습니다. 에이전트 간 통신 자체를 텍스트에서 모델 내부 표현으로 옮겼다는 점이 더 중요합니다. 빈번하고 지연에 민감한 탐색은 잠재 공간에서 처리하고, 최종 프로그램과 설명, 사람의 검토에 필요한 부분만 텍스트로 출력하는 구조를 제안합니다.

AI for Science 분야에서는 자동 평가기를 구축할 수 있는 프로그램 합성 및 최적화 문제에 특히 의미가 있을 수 있습니다. 그러나 이번 결과만으로 텍스트 기반 검색을 광범위한 과학 문제에서 대체할 수 있다고 보기는 이릅니다. 더 다양한 벤치마크, 실제 하드웨어 비용 분석, 잠재 공간 탐색의 재현성과 해석 가능성에 대한 연구가 뒤따라야 합니다.

출처: Hugging Face Daily Papers