SparseRead: 덜 읽고 더 많이 해결하는 AI 에이전트

도입

웹을 사용하는 AI 에이전트는 긴 로그에서 특정 오류 하나를 찾거나, 코드 저장소의 일부만 확인하거나, 문서에서 몇 가지 근거를 수집하는 일을 수행합니다. 하지만 일반적인 읽기 인터페이스는 필요한 부분만 보여주기보다 페이지와 파일 전체를 한 번에 모델에 전달합니다. 이 방식은 토큰과 지연 시간을 늘리고, 중요한 근거가 불필요한 텍스트 속에 묻히게 만들 수 있습니다.

Institute of Computing Technology 연구진이 제안한 SparseRead는 이 문제를 모델 자체가 아니라 콘텐츠 유입 방식의 문제로 봅니다. 모델을 재학습하거나 수정하지 않고, 외부 자료를 언제 얼마나 컨텍스트에 넣을지 제어하는 계층을 추가하는 접근입니다.

핵심 설계

• Read Intent Protocol: 읽기 의도 추적. 에이전트가 찾는 정보는 과제가 진행되면서 달라질 수 있습니다. 이 프로토콜은 현재의 요구와 이미 확인한 출처 범위를 기록해 추가 읽기가 필요한지 판단하도록 돕습니다.
• Adaptive Reader Backends: 자료별 읽기 방식 선택. 웹페이지, 문서, 저장소, 도구 응답은 근거를 찾고 보여주는 방식이 서로 다릅니다. 교체 가능한 백엔드를 사용하되, 에이전트에는 통일된 Reader 인터페이스를 제공합니다.
• Budgeted Read Gate: 원문 노출량 제한. 한 에피소드에서 모델에 노출되는 원문 누적량에 예산을 둡니다. 먼저 미리보기와 위치 정보가 포함된 관련 구간을 제공하고, 필요할 때만 범위를 확장합니다. 부분 읽기로 충분하지 않다면 충실한 전체 보기로 전환할 수 있습니다.

사용 흐름은 미리보기, 관련 구간 읽기, 추가 요청의 순서로 진행됩니다. 모든 과제를 억지로 축약하는 방식이 아니라, 과제가 전체 내용을 요구할 때는 전체 접근을 허용한다는 점이 핵심입니다.

평가 결과와 한계

평가는 6개 모델, 5개 시나리오, 125개 과제를 대상으로 진행됐습니다. 전체 읽기와 비교했을 때 토큰 사용량은 최대 92.9%, 실제 처리 시간은 최대 89.0% 감소했습니다. 30개 모델-워크로드 조합 가운데 26개에서는 과제 점수가 유지되거나 개선됐습니다. 웹 심층 검색에서는 토큰 사용량이 31.043.0%, 과제 완료 시간이 23.037.0% 줄었습니다. 세 가지 설계 요소를 검증하는 제거 실험과 세 가지 에이전트 프레임워크 통합도 진행됐습니다.

이 결과가 항상 적게 읽는 것이 최선이라는 뜻은 아닙니다. 근거가 특정 구간에 모여 있으면 입력을 줄이고, 정보가 넓게 흩어져 있거나 전체 내용이 필요하면 읽기를 확대해야 합니다. 선택적 읽기와 안전한 전체 보기의 결합이 효율성과 신뢰성을 함께 확보하는 방식입니다.

의미와 영향

에이전트 개발에서 읽기 계층은 모델이나 도구 호출 계층만큼 중요해질 수 있습니다. 공통 Reader 추상화는 다양한 외부 자료를 하나의 에이전트 구조에 연결하게 하고, 노출 예산은 장시간 작업의 비용 경계를 더 분명하게 만듭니다. 로그 분석, 코드 리뷰, 리서치, 웹 검색은 이 접근의 적용 후보입니다.

다만 효과는 근거 위치를 찾는 백엔드의 품질, 과제가 가진 정보 구조, 그리고 에이전트가 유용한 후속 읽기를 요청하는 능력에 좌우됩니다. SparseRead는 전체 문서 접근을 대체하는 만능 압축기가 아니라, 필요한 근거를 단계적으로 확보하기 위한 시스템 기반으로 보는 편이 정확합니다.

출처: Hugging Face Daily Papers