JitMem, 필요할 때 기억을 구성하는 LLM 에이전트 메모리

들어가며

언어 모델 에이전트에 메모리를 추가하는 일은 과거 대화를 단순히 저장하는 것과 다릅니다. 어떤 경험을 남길지, 어떤 형식으로 표현할지, 그리고 나중에 어떻게 활용할지를 결정해야 합니다. 기존 메모리 시스템의 상당수는 작업이 끝난 직후 궤적을 요약합니다. 경험을 반성문, 워크플로, 기술, 추론 전략과 같은 고정된 산출물로 바꾼 뒤, 이후 작업과의 유사도를 기준으로 검색하는 방식입니다.

문제는 요약을 만드는 시점에는 미래의 질문이 무엇인지 모른다는 데 있습니다. 당시에는 중요해 보이지 않은 세부 정보가 나중에는 핵심이 될 수 있지만, 한 번 압축된 정보는 되살리기 어렵습니다. 논문 「Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents」는 이 순서를 뒤집는 Just-in-Time Memory, 즉 JitMem을 제안합니다.

핵심 내용

• 원시 궤적을 보존한다. JitMem은 경험을 저장할 때 곧바로 하나의 고정 요약으로 만들지 않습니다. 원래의 작업 궤적을 유지해 기록 단계의 조기 압축으로 인한 정보 손실을 줄입니다.
• 현재 작업에 맞춰 정리한다. 새로운 작업이 들어오면 관련 가능성이 있는 과거 궤적을 검색하고, 이를 현재 작업과 함께 메모리 큐레이터에 전달합니다. 큐레이터는 당면한 목표에 맞는 간결한 메모리 페이로드를 생성합니다. 같은 경험도 작업에 따라 다른 방식으로 제시될 수 있습니다.
• 학습 피드백을 앞당긴다. 기록 시점 메모리는 어떤 저장 결정의 가치가 여러 작업 뒤에야 드러날 수 있어 장기 신용 할당 문제가 생깁니다. JitMem이 만든 정보는 현재 작업에서 바로 사용되므로, 큐레이터는 즉시 작업 성공 여부를 바탕으로 학습할 수 있습니다. 관련 작업을 인위적으로 묶을 필요도 줄어듭니다.
• 여러 환경에서 개선을 보였다. ALFWorld, WebShop, τ^2-bench에서 JitMem은 무메모리 에이전트와 휴리스틱·학습 기반 기록 시점 메모리 방법을 모두 앞섰습니다. 논문은 가장 강한 기준선 대비 성공률 절대 향상이 각각 16.2, 16.3, 3.9포인트였다고 보고합니다. 큐레이터를 학습하지 않은 경우에도 경쟁력 있는 결과를 보였고, 추가 학습으로 성능이 더 향상됐습니다.

의미와 한계

JitMem의 핵심 기여는 메모리를 언제 구성해야 하는지에 대한 관점을 바꾼 것입니다. 기록 시점 압축은 저장 공간을 줄이고 재사용하기 쉽지만, 미래의 활용처를 미리 추측해야 합니다. 반면 읽기 시점 정리는 경험을 보존하는 일과 그 경험을 해석하는 일을 분리합니다. 미래 요구를 미리 예측하기 어려운 장기 실행 에이전트에서는 이 차이가 중요합니다.

물론 원시 궤적을 보존하면 저장 공간과 검색, 컨텍스트 처리 비용이 커질 수 있습니다. 최종 성능 역시 검색 품질과 실행 에이전트의 능력에 영향을 받습니다. 따라서 모든 기록을 무조건 영구 보관하자는 주장은 아닙니다. 더 넓은 시사점은 압축을 고정된 사전 처리 과정이 아니라 필요할 때 수행하는 동적 과정으로 설계할 수 있다는 점입니다. 앞으로의 에이전트 메모리는 정적인 기록 보관소보다, 작업마다 다시 구성되는 컨텍스트 자원에 가까워질 수 있습니다.

출처: Hugging Face Daily Papers