WikiSkill: 에이전트 경험을 지속 지식으로 바꿔 스킬을 진화시키다

들어가며

에이전트가 반복적인 상호작용을 통해 개선되려면 강력한 기반 모델이나 긴 컨텍스트만으로는 부족하다. 어떤 절차가 효과적이었는지, 실패 원인은 무엇인지, 특정 전략을 언제 적용해야 하는지를 저장하고 다음 작업에서 활용해야 한다. WikiSkill은 이 문제를 해결하기 위해 에이전트 스킬과 지속적인 지식베이스를 함께 진화시키는 구조를 제안한다.

경험을 지식과 실행 능력으로 나누기

최근의 스킬 진화 연구는 에이전트의 실행 경험을 바탕으로 스킬을 자동 발견하거나 수정한다. 하지만 업데이트를 이끈 핵심 통찰이 실행 궤적, 피드백, 최적화 기록에 흩어져 있으면 다음 단계에서 과거의 학습을 체계적으로 활용하기 어렵다. 그 결과 에이전트가 이미 시도했던 탐색을 다시 반복할 수 있다.

WikiSkill은 이 과정을 세 층으로 구분한다.

• 원시 실행 경험: 작업 과정, 결과, 피드백 등 에이전트 행동을 판단하기 위한 관찰 자료다.
• 지속적인 위키 지식베이스: 경험에서 재사용 가능한 지식, 패턴, 적용 조건을 추출해 누적한다.
• 실행 가능한 스킬: 지식을 워크플로, 지침, 전략으로 바꿔 실제 작업에서 호출한다.

핵심은 경험을 현재 버전의 스킬을 만드는 데만 사용하지 않는다는 점이다. 경험은 계속 위키에 통합되고, 이후 스킬 업데이트는 축적된 지식을 기반으로 수행된다. 이를 통해 매번 불완전한 기록에서 다시 시작하는 대신, 진화 과정에 장기적인 연속성을 부여할 수 있다.

주요 결과

논문은 다양한 모델과 벤치마크에서 WikiSkill을 평가했으며, 기존의 스킬 진화 방법을 일관되게 앞섰고 대부분의 모델·벤치마크 조합에서 스킬을 사용하지 않는 기준선도 개선했다고 보고한다. 스킬 진화는 모델 확장과 대체 관계가 아니라 상호 보완적인 관계로 나타났다. 일반적으로 큰 모델이 진화한 스킬에서 더 큰 이익을 얻지만, 스킬을 갖춘 작은 모델이 별도의 스킬이 없는 훨씬 큰 모델을 크게 앞설 가능성도 확인됐다.

스킬의 이동성도 중요한 관찰이다. 진화한 스킬은 특정 모델에만 묶이지 않고 다른 모델과 모델 계열로 이전될 수 있다. 어떤 경우에는 다른 모델이 진화시킨 스킬이 해당 모델이 스스로 만든 스킬보다 더 나은 성능을 보였다. 이는 스킬을 모델 가중치에 종속된 일회성 결과가 아니라 공유 가능한 자산으로 볼 수 있음을 의미한다.

절제 실험은 위키의 지속적인 지식 축적이 핵심임을 뒷받침한다. 지식 축적 기능을 약화하거나 제거하면 스킬 진화의 효과가 떨어졌다. 따라서 위키는 단순한 저장 공간이 아니라 여러 차례의 탐색을 연결하는 학습 기반에 가깝다.

의미와 남은 과제

WikiSkill은 경험이 증거를 제공하고, 지식베이스가 이를 정리·압축하며, 스킬이 실제 행동으로 변환한다는 역할 분담을 제시한다. 이는 장기간 작동하는 에이전트의 구조를 설계하고 서로 다른 모델 사이에서 능력을 공유하는 데 유용한 방향이다.

다만 제공된 자료에는 구체적인 벤치마크 설정, 모델 구성, 성능 향상 폭이 담겨 있지 않다. 따라서 이번 결과를 모든 작업에 적용되는 보편적 보장이라기보다 유망한 프레임워크를 뒷받침하는 근거로 해석하는 편이 적절하다. 실제 배포에서는 오래된 지식, 잘못된 경험의 누적, 스킬의 적용 범위를 벗어난 사용을 관리해야 한다. WikiSkill이 보여주는 핵심 메시지는 분명하다. 지속적인 에이전트 학습에는 더 나은 스킬뿐 아니라 경험을 장기간 보존하고 정제하는 지식 인프라도 필요하다.

출처: Hugging Face Daily Papers