GRASP: Agentic RAG가 검색의 깊이를 스스로 조절하게 하다

도입

Agentic RAG는 기존 RAG의 “한 번 검색하고 한 번 생성하는” 구조를 넘어선다. 언어모델이 단계적으로 생각하고, 새로운 검색 질의를 만들고, 증거를 가져오며, 필요하면 다시 검색한 뒤 답을 예측하는 방식이다. 하지만 이런 유연성은 곧 제어의 어려움으로 이어진다. 에이전트는 언제 추가 검색을 해야 하는지, 의미 기반 검색과 키워드 매칭 중 무엇을 써야 하는지, 찾은 증거 주변의 문맥을 얼마나 더 읽어야 하는지를 판단해야 한다.

논문 GRASP: GRanularity-Aware Search Policy for Agentic RAG 는 이 문제를 정면으로 다룬다. GRASP는 강화학습을 통해 에이전트가 여러 검색 도구를 상황에 맞게 조율하고, 문맥의 세밀한 정도를 제어하도록 훈련하는 프레임워크다.

핵심 내용

• 더 많이가 아니라 더 적절하게 검색: GRASP는 검색 결과를 무작정 많이 컨텍스트에 넣는 방식이 아니다. 먼저 문장 수준의 증거를 가져오고, 필요할 때만 문단 수준의 문맥으로 확장한다. 이를 통해 관련 없는 토큰이 추론을 방해하는 문제를 줄이려 한다.
• 세 가지 행동의 조합: 에이전트는 의미 검색, 키워드 검색, 문단 읽기를 사용할 수 있다. 의미 검색은 넓은 탐색에 적합하고, 키워드 검색은 특정 엔터티나 정확한 단서를 찾는 데 유리하며, 문단 읽기는 국소 문맥에서 증거를 확인하는 데 쓰인다.
• 강화학습 기반 정책 훈련: 보상은 답변 정확도뿐 아니라 근거에 기반한 읽기, 서로 다른 검색 방식의 보완적 사용, 작업을 끝내는 데 필요한 턴 효율성까지 함께 고려한다. 즉, 정답만 맞히는 것이 아니라 효율적이고 근거 있는 검색을 학습하게 한다.
• 다중 홉 추론에 초점: 여러 증거를 연결해야 하는 질문에서는 단일 검색으로 충분하지 않은 경우가 많다. GRASP는 방향을 잡기 위한 훑어보기, 특정 단서를 찾기 위한 스캐닝, 최종 확인을 위한 국소 읽기와 유사한 행동을 학습하도록 설계됐다.

의미와 영향

GRASP의 의미는 Agentic RAG의 개선을 단순한 프롬프트 설계가 아니라 검색 정책 학습의 문제로 확장했다는 데 있다. 많은 RAG 시스템은 정해진 수의 문서를 검색한 뒤 이를 모델에 넘기는 고정 절차에 의존한다. Agentic RAG는 반복 검색과 도구 사용을 허용하지만, 정책이 약하면 과도한 검색, 중복 질의, 지나치게 넓은 문맥으로 인한 혼란이 발생할 수 있다.

GRASP는 검색을 하나의 단일 기능이 아니라 상호보완적인 기술 묶음으로 본다. 의미 검색은 탐색 공간을 열고, 키워드 검색은 구체적 단서를 좁히며, 문단 읽기는 필요한 문맥을 보충한다. 논문은 이러한 학습된 정책이 해석 가능한 훑어보기와 스캐닝 행동을 보인다고 설명한다.

실제 활용 측면에서는 기업 지식 검색, 연구 문헌 분석, 규정 준수 검토, 복잡한 고객지원 시나리오에 시사점이 크다. 이런 환경에서는 문서가 부족하기보다 제한된 컨텍스트 예산 안에서 진짜 관련 증거를 찾는 능력이 더 중요하다. 세분화된 문맥 제어는 답변의 추적 가능성과 근거성을 높이는 방향으로 이어질 수 있다.

제공된 자료에는 구체적인 수치 결과가 포함되어 있지 않으므로, 성능 향상 폭과 실험 조건은 원문을 통해 확인해야 한다. 다만 핵심 메시지는 분명하다. 앞으로의 RAG 에이전트는 단순히 검색을 수행하는 수준을 넘어, 언제 검색하고 어떤 신호를 신뢰하며 얼마나 깊이 읽을지를 배워야 한다.

출처: Hugging Face Daily Papers