DuoDiscover, 빠른 평가기로 자율 발견의 병목을 넘다

들어가며

자율 소프트웨어 최적화에서 코드 변경을 만드는 일과 그 변경이 실제로 효과가 있는지 확인하는 일 사이에는 큰 시간 차이가 있습니다. 에이전트는 몇 초 안에 코드를 수정할 수 있지만, 전체 벤치마크나 서비스 추적, 하드웨어 실행을 통한 검증에는 훨씬 긴 시간이 걸릴 수 있습니다. 평가가 수시간 단위로 늘어나면 탐색이 시도할 수 있는 후보 수가 제한되고, 에이전트를 더 투입하는 것만으로는 병목이 해소되지 않습니다.

DuoDiscover는 평가 비용 자체를 자율 탐색의 대상으로 끌어들입니다. 더 나은 구현만 찾게 하는 대신, 현재 최적화 목표에 맞춰 진행 상황을 저렴하고 빠르게 판단할 방법도 함께 발견하게 합니다.

핵심 작동 방식

• 최적화 목표와 평가기 공동 발견: 각 코딩 에이전트는 자신이 추구할 최적화 목표를 찾는 동시에, 그 목표에 특화된 대리 평가기를 구축합니다. 논문은 이를 ‘yardstick’이라고 부릅니다. 에이전트는 매번 비용이 큰 실제 평가를 실행하는 대신 yardstick을 사용해 후보를 빠르게 비교하고 반복적으로 개선합니다.
• 실제 목표와의 충실도 점검: 대리 평가기는 완벽하지 않으며, 탐색이 대리 지표와 실제 목표 사이의 틈을 악용할 수도 있습니다. DuoDiscover는 후보의 순위를 실제 평가로 주기적으로 다시 확인합니다. yardstick이 더 이상 실제 목표를 제대로 반영하지 못하면 신뢰 가능한 평가기로 사용하지 않습니다.
• 상향식 에이전트 집단: 전체 문제를 중앙 통제자가 미리 분해하는 구조가 아닙니다. 가벼운 오케스트레이터가 에이전트를 시작하고 종료하며, 실행 중인 에이전트에 간단한 정보를 전달하고, 확인된 작업을 새 에이전트에 제공합니다. 여러 방향을 병렬로 탐색하면서 검증된 결과를 재사용할 수 있습니다.

실험 결과와 한계

논문은 두 개의 저장소 수준 소프트웨어 벤치마크와 수백 개 커널을 포함하는 네 개의 GPU·TPU 커널 모음에서 DuoDiscover를 평가했습니다. 보고된 결과에 따르면 SWE-fficiency에서 인간 전문가가 얻은 평균 가속의 2배를 달성했습니다. SOL-Exec에서는 235개 커널 중 121개에서 1위를 차지했고, 212개가 상위 3위 안에 들었습니다. 소재에는 NVIDIA 관련 SOL-Exec 벤치마크에서의 선두 성과와 FreeToken 프로젝트에서 변경 사항이 병합된 사례도 포함되어 있습니다.

이 결과가 보여주는 핵심은 탐색 규모가 단순히 에이전트 수로 결정되지 않는다는 점입니다. 모든 후보가 비싼 평가를 기다려야 한다면, 에이전트를 늘려도 대기열만 길어질 수 있습니다. 작업에 맞는 대리 평가기를 사용하면 같은 시간 안에 더 많은 유효한 반복을 수행할 수 있습니다.

다만 yardstick은 근사치일 뿐입니다. 실제 평가는 보정과 최종 확인에 여전히 필요합니다. DuoDiscover는 평가 비용을 없애는 것이 아니라, 비용이 큰 검증을 중요한 시점에 집중하고 근사 지표가 실제 목표에서 벗어나는 상황을 감지하도록 합니다. 자율 탐색이 실제 엔지니어링 환경으로 확장될수록 보정 주기, 평가기 실패의 조기 탐지, 근사 지표가 만드는 편향의 관리가 중요한 과제가 될 것입니다.

의미와 영향

DuoDiscover는 평가기 자체를 자율 발견의 순환 과정에 포함시켰습니다. 앞으로 코드 최적화, 추론 서비스, 칩 아키텍처 탐색 시스템은 후보 해법뿐 아니라 현재 문제에 적합한 측정 방법까지 스스로 구축해야 할 수 있습니다. 이는 에이전트 기반 탐색을 확장하는 새로운 방향을 제시하지만, 빠른 평가기가 언제 신뢰를 잃는지 판단하는 방법은 여전히 해결해야 할 문제입니다.

출처: Hugging Face Daily Papers