Harness 진화의 성능 향상, 어디까지가 진짜 일반화인가

들어가며

모델 가중치를 업데이트하지 않고도 에이전트의 성능을 높일 수 있을까. Harness evolution은 고정된 가중치의 실행 모델을 둘러싼 프롬프트, 스킬, 도구, 오케스트레이션 코드를 자동으로 조정하고, 검색 세트의 성능을 기준으로 반복 최적화하는 접근법이다.

하지만 검색 세트 점수가 올랐다는 사실만으로 에이전트의 일반적인 능력이 향상됐다고 보기는 어렵다. arXiv 논문 「Harness-Delta Attribution: Dissecting Gains From Harness Evolution」은 이 문제를 분석하기 위해 Harness-Delta Attribution, 즉 HDA라는 평가 프로토콜을 제시했다.

HDA는 harness 진화로 인한 성능 향상을 세 부분으로 나눈다. 첫째는 검색 세트에 맞춰진 프롬프트나 코드 같은 산출물에서 비롯된 과적합이다. 둘째는 추론 시 더 많은 계산을 사용해 얻은 테스트 시점 스케일링 효과다. 셋째는 앞의 두 요인으로 설명되지 않는 잔여 부분이다. 잔여분이 곧 일반화 능력의 증거는 아니지만, 잠재적으로 일반화 가능한 개선의 상한으로 볼 수 있다.

핵심 결과

• 11개 실행 모델과 3개 harness 진화 프레임워크를 평가했다.
• 수학, 코딩, 창의성, 에이전트 과제를 포함했다.
• 검색 세트에서 통계적으로 유의미한 향상을 보인 21개 설정에서 과적합은 평균 54%의 향상을 설명했다.
• 테스트 시점 스케일링의 설명 비중은 평균 14%였다.
• 21개 중 14개 설정에서는 두 요인의 합이 전체 향상의 절반을 넘었다.
• 잔여 향상과 보류 과제로의 전이는 과제, 모델, 프레임워크에 따라 크게 달랐다.

이 결과는 harness 최적화가 무의미하다는 뜻이 아니다. 동일한 점수 상승이라도 원인은 다를 수 있다. 특정 벤치마크에 맞춘 프롬프트가 효과를 냈을 수도 있고, 도구 호출이나 실행 단계를 늘려 더 많은 추론 계산을 사용했을 수도 있으며, 실제 행동이 개선됐을 수도 있다. 이 구분은 배포 비용과 시스템 신뢰성을 판단할 때 중요하다.

연구진은 검색 세트에서의 향상이 보류 과제로 자주 이어지지 않았으며, 실제 환경의 분포 변화에서도 효과가 지속된다는 근거가 제한적이라고 보고했다. 또한 검증 세트에서 얻은 신호만으로는 과적합을 충분히 막을 수 없었다. 따라서 단순한 학습·검증 분할만으로는 harness 진화의 신뢰성을 보장하기 어렵다.

의미와 영향

HDA는 에이전트 연구의 성과를 더 세밀하게 보고할 수 있는 틀을 제공한다. 앞으로는 검색 세트의 최고 점수만 제시하기보다 추가 추론 비용, 보류 과제 성능, 벤치마크 적응으로 설명되는 향상의 비중을 함께 공개할 필요가 있다. 이를 통해 특정 테스트에만 강해진 시스템과 다양한 환경에서 더 안정적인 시스템을 구분할 수 있다.

이번 연구는 모든 harness 진화 기법의 가치를 부정하지 않는다. 다만 향상의 출처를 분석하지 않으면 통계적으로 유의미한 벤치마크 상승을 범용 능력 향상으로 과대해석할 수 있다고 경고한다. 비용, 과제 전이, 분포 변화까지 함께 평가하는 방식이 실용적인 에이전트 개발의 중요한 기준이 될 가능성이 크다.

출처: arXiv