모델 가중치를 고정한 채 진화하는 에이전트: Harness RSI의 의미

들어가며

경험을 통해 학습하는 에이전트라고 하면 보통 모델 가중치를 업데이트하는 방식을 떠올린다. 하지만 실제 에이전트의 행동은 프롬프트, 메모리, 워크플로, 도구, 런타임 코드와 접근 권한 등 모델 주변의 소프트웨어에도 크게 좌우된다. 논문 ‘Self-Evolving Agent Harness’는 기반 모델을 고정한 상태에서 이 소프트웨어 층을 개선하는 Harness RSI라는 관점을 체계적으로 정리한다.

핵심 내용

• 변경 대상은 프롬프트를 넘어선다. 고정된 컴포넌트가 해석하는 지시문, 메모리, 워크플로 명세뿐 아니라 실행 가능한 도구, 런타임 로직, 저장소 수준의 제어 규칙, 플러그인 조합도 대상에 포함된다. 대상마다 실패 양상과 검증 난도가 다르다.
• 제안과 채택을 분리한다. 실행 피드백으로 후보 변경을 생성하는 과정과, 해당 변경을 다음 실행에 영구 반영하는 과정은 별개로 다룬다. 이를 통해 탐색의 유연성과 독립 평가, 롤백, 권한 심사를 함께 설계할 수 있다.
• 점수 상승만으로는 부족하다. 논문은 네 가지 질문을 구분한다. 평가가 탐색 과정과 독립적인지, 변경 사항이 실제 실행에서 활성화됐는지, 통제된 조건에서 성능 차이를 만든 원인이 해당 변경인지, 그리고 생성에 사용된 작업을 넘어 효과가 유지되는지다.
• 지속 학습 이론과 연결한다. 하니스 진화를 진화적 최적화와 지속적 PAC 학습의 관점에서 분석한다. 명시적인 가정 아래 기대 일반화, 과거 회귀 예산을 조건으로 한 성능 유지, 새롭고 독립적인 검증 데이터를 활용한 높은 확률의 채택 규칙을 논의한다.

의미와 한계

이 접근법은 에이전트를 개선할 때마다 대규모 모델을 다시 학습하지 않아도 되는 경로를 제시한다. 개인 비서, 기업 자동화, 과학 연구, 로보틱스, 공공 서비스에서는 전체 모델을 바꾸는 것보다 워크플로 또는 도구 모듈을 교체하는 편이 현실적일 수 있다. 영구적인 하니스 수정은 여러 작업, 플러그인, 팀과 조직 사이에서 유용한 절차를 공유하는 수단이 될 수도 있다.

그러나 지속성은 새로운 실패와 공격 표면도 만든다. 수정 대상이 단순한 텍스트가 아니라 실행 코드, 외부 서비스 호출, 런타임 권한이 될 수 있기 때문이다. 과거 작업에서 효과적이었던 변경이 작업 분포가 바뀐 뒤 회귀를 일으킬 수 있으며, 후보를 찾는 데 사용한 데이터로 평가하면 일반화 성능을 과대평가할 가능성도 있다. 따라서 학습 권한, 런타임 권한, 결과가 큰 행동에 대해 지속 검증과 독립적인 보호 장치를 별도로 마련해야 한다.

이 연구는 자율적 자기개선이 이미 해결됐다는 결론이라기보다 설계와 평가를 위한 연구 지도에 가깝다. 에이전트가 자신의 하니스를 수정할 수 있다면 버전 관리, 관측 가능성, 회귀 테스트, 권한 격리, 책임 추적은 부가 기능이 아니라 학습 시스템의 핵심 인프라가 된다.

출처: Hugging Face Daily Papers