Recursa, 새로운 영역에서 파운데이션 모델을 재귀적으로 개선하다

들어가며

파운데이션 모델을 낯선 영역에 투입할 때 필요한 것은 일반적인 언어 능력만이 아닙니다. 해당 분야의 용어와 절차, 작업 기준, 실수를 찾아내는 방법까지 갖춰야 합니다. 그러나 새로운 영역에는 전문가가 작성한 대규모 학습 데이터가 부족한 경우가 많고, 지속적으로 정답을 제공할 더 강력한 교사 모델을 확보하기도 어렵습니다. Alibaba 연구진이 제안한 Recursa는 이런 조건에서 모델이 자신의 작업 경험을 통해 영역 적응을 진행하도록 설계한 시스템입니다.

지식 저장소를 중심으로 한 구조

Recursa는 모델 파라미터를 단순히 추가 학습하는 대신, 계속 갱신되는 지식 저장소를 구성합니다. 저장소에는 다음과 같은 정보가 포함됩니다.

• 영역별 기술: 특정 과제를 해결할 때 필요한 지식이나 절차.
• 사용 지침: 어떤 상황에서 특정 기술을 적용해야 하는지에 대한 조건.
• 작업 기억: 과거 작업에서 어떤 시도를 했고 어떤 결과를 얻었는지에 대한 기록.
• 성찰: 이전 실행의 부족한 점과 다음 개선 방향에 대한 정리.

시스템은 먼저 대상 영역의 자료에서 초기 저장소를 만듭니다. 이어 해당 자료를 바탕으로 연습 과제를 생성하고 실행하면서 모델이 가진 영역 지식의 빈틈을 줄입니다. 다음 단계에서는 여러 학습자가 과제를 병렬로 수행하고, 각자의 경험을 분석해 국소적인 개선안을 제시합니다. 후보 변경 사항은 검증 과정을 거친 뒤 신뢰할 수 있는 내용만 공유 저장소에 통합됩니다.

이 설계는 정답을 단순히 저장하는 방식과 다릅니다. 무엇을 해야 하는지뿐 아니라 언제 적용해야 하는지, 과거 시도에서 무엇을 배워야 하는지도 함께 기록하기 때문입니다. 따라서 저장소는 반복 작업에 재사용할 수 있는 절차적 기억으로 작동합니다. 새로운 작업 경험이 이후의 실행 방식을 바꾸고, 학습하는 방법 자체도 개선되는 순환이 Recursa가 말하는 재귀적 자기 개선입니다.

실험 결과와 시사점

Harvey LAB의 Firm Knowledge 벤치마크에서 Recursa는 DeepSeek-V4.1-Flash의 보류 테스트 과제 전체 통과율을 30.0%에서 55.0%로 높였습니다. Qwen3.8-Flash를 사용했을 때는 35.0%에서 46.0%로 상승했습니다. 보고된 결과는 인간 전문가나 더 강한 교사 모델의 직접적인 감독이 없어도, 구조화된 기억과 병렬 시도, 개선안 검증을 결합하면 영역 적응 성능을 높일 수 있음을 보여줍니다.

이 연구의 중요한 관점은 파운데이션 모델과 외부 지식 계층의 역할을 나눈다는 데 있습니다. 모델은 추론과 실행, 성찰을 담당하고, 지식 저장소는 경험의 장기 축적과 재사용을 담당합니다. 특정 환경에서 반복적으로 일하는 에이전트라면 매번 새 프롬프트나 정적인 컨텍스트에만 의존하는 것보다 이런 구조가 유용할 수 있습니다.

다만 제공된 자료는 주로 하나의 벤치마크 결과를 제시합니다. 따라서 모든 영역에서 재귀적 개선이 안정적으로 작동한다고 단정하기는 어렵습니다. 자기 생성 경험에 오류가 누적되지 않는지, 제안된 개선을 어떻게 검증할지, 저장소가 커져도 관리 가능한지 등은 실제 적용을 위해 추가로 살펴봐야 할 과제입니다.

출처: Hugging Face Daily Papers