SWE-Pruner Pro: 코딩 에이전트가 스스로 줄일 대상을 아는 법

코딩 에이전트가 긴 도구 출력을 계속 읽어야 하는 상황에서는, 어떤 정보를 남기고 어떤 정보를 버릴지가 성능을 좌우합니다. SWE-Pruner Pro는 이 문제를 별도 필터로 푸는 대신, 에이전트가 이미 내부적으로 관련성을 표현하고 있다는 점에 주목합니다.

핵심 아이디어

• 외부 코드 분류기 대신 내부 표현 활용: 기존 방식처럼 별도 모델을 붙이지 않는다.
• 줄 단위 판단: 작은 head가 각 줄마다 keep-or-prune 라벨을 예측한다.
• 길이 정보를 반영: 도구 출력의 줄 수를 기준으로 한 length-aware embedding을 사용한다.
• 에이전트 내부에서 직접 프루닝: 읽기와 압축이 분리되지 않고 하나의 흐름으로 이어진다.

이 접근이 주는 의미

도구 출력에는 종종 로그, 반복된 문장, 경로 정보, 오류 메시지처럼 유용하지만 모두가 필요한 것은 아닌 내용이 많습니다. 이런 장황한 입력을 전부 유지하면 컨텍스트 비용이 커지고, 반대로 너무 공격적으로 자르면 핵심 단서를 놓칠 수 있습니다. SWE-Pruner Pro는 프루닝을 이해 과정의 일부로 다루려는 시도라는 점에서 의미가 있습니다.

실험 결과

요약에 따르면 이 방법은 2개의 open-weight backbone과 4개의 multi-turn 벤치마크에서 검증되었습니다. 그 결과 prompt와 completion 토큰을 최대 **39%**까지 절약하면서도 작업 품질을 유지했고, 추론 오버헤드도 제한적이었습니다. 특히 MiMo-V2-Flash에서는 SWE-Bench Verified resolve rate가 3.8% 상승했고, Oolong의 long-context accuracy가 2.2포인트 향상되었습니다.

기대 효과

이 방식이 널리 쓰인다면, 미래의 코딩 에이전트는 도구 출력을 먼저 읽고 그다음 줄이는 방식이 아니라, 읽는 동시에 필요한 것만 남기는 방식으로 진화할 수 있습니다. 이는 장시간 디버깅, 코드 수정, 멀티턴 에이전트 작업에서 컨텍스트를 더 효율적으로 쓰는 데 도움이 될 수 있습니다.

한마디로, SWE-Pruner Pro는 코딩 모델이 무엇을 버려야 하는지 이미 어느 정도 알고 있을 수 있다는 점을 보여줍니다.

출처: Hugging Face Daily Papers