FlowState, 장기 작업 에이전트의 기억으로 실행 상태를 활용하다

장기 작업을 수행하는 LLM 에이전트는 과거 정보를 어떻게 보존하고 다시 사용할지 결정해야 합니다. 전체 상호작용 기록을 매번 컨텍스트에 넣으면 세부 정보를 유지하기 쉽지만, 입력 비용이 커지고 추론이 복잡해집니다. 반대로 기록을 너무 일찍 압축하면 나중에 중요해지는 정보까지 사라질 수 있습니다. FlowState는 이 문제를 긴 대화 기록을 저장하는 방식이 아니라, 실행 과정에서 형성된 상태를 기억으로 보존하고 필요할 때 다시 방문하는 방식으로 접근합니다.

핵심 구조

FlowState는 의미적으로 유형화된 상태 노드와 노드 사이의 관계, 그리고 도구가 반환한 원본 관측값을 가리키는 참조를 유지합니다. 따라서 모든 발화를 그대로 저장하는 대신, 작업 진행에 중요한 사실과 판단, 의존 관계를 구조화합니다. 세부 내용을 다시 확인해야 할 때는 관련 원본 관측값으로 돌아갈 수 있습니다.

이 시스템은 두 가지 메커니즘을 결합합니다.

• 증분 상태 업데이트(ISU): 새로운 사용자 입력, 도구 결과, 실행 피드백을 반영해 현재 상태를 계속 갱신합니다.
• 점진적 상태 접근(PSA): 현재 추론에서 필요하다고 판단되는 과거 상태와 이를 뒷받침하는 근거를 단계적으로 공개합니다.

이 구조에서 기억은 한 번 만들어진 요약본에 머물지 않습니다. 새로운 정보가 과거 판단과 충돌하면 에이전트는 이전 상태와 근거를 다시 확인하고, 수정된 판단을 상태 업데이트로 기록할 수 있습니다. 즉, 현재 의사결정과 과거 정보의 재사용을 하나의 실행 루프 안에서 연결하려는 설계입니다.

결과와 한계

동일한 DeepSeek-V4-Flash 모델을 사용한 비교에서 FlowState는 전체 컨텍스트 기준선보다 MemoryArena 평균 성공률을 4.55%포인트, τ³-Bench 평균 통과율을 13.95%포인트 높였습니다. 총 토큰 사용량은 두 벤치마크에서 각각 43.2%와 40.6% 감소했습니다. 필요한 상태만 선택적으로 불러오는 방식이 단순히 비용을 줄이는 데 그치지 않고, 장기 작업에서 과거 정보를 더 효과적으로 재사용하도록 도울 가능성을 보여주는 결과입니다.

그러나 상태의 유효성 문제는 완전히 해결되지 않았습니다. FlowState는 원래 요청 정보와 근거 참조를 유지하지만, 검증 시점을 강제하거나 상태 그래프 전체에 무효화를 자동 전파하지는 않습니다. 실행 도중 파일이 수정되거나 API가 바뀌거나 도구의 출력 형식이 달라져도, 관련 상태를 다시 검증할지는 모델의 판단에 달려 있습니다. 이런 오래된 상태는 긴 컨텍스트보다 더 조용하게 오류를 만들 수 있습니다. 프롬프트의 구조는 멀쩡해 보여도 그 근거가 이미 현재 환경과 맞지 않을 수 있기 때문입니다.

의미와 영향

FlowState는 모든 기록을 반복 재생하는 방식과 모든 기록을 공격적으로 요약하는 방식 사이의 대안을 제시합니다. 구조화된 실행 상태는 중복된 컨텍스트 입력을 줄이고, 근거 참조는 판단의 출처를 추적할 수 있게 합니다. 여러 단계의 조사, 업무 처리, 도구 호출을 수행하는 에이전트에 특히 유용한 기반이 될 수 있습니다.

앞으로 중요한 과제는 환경 변화에 대한 신뢰성입니다. 타임스탬프, 출처와 근거의 품질, 환경 변경 감지, 연관 판단의 자동 무효화가 함께 필요합니다. FlowState는 에이전트가 실행 지식을 어떻게 저장하고 꺼내 쓸지에 대한 해법을 제시했지만, 안정적인 장기 기억을 위해서는 그 정보가 언제 더 이상 믿을 수 없는지도 판단해야 합니다.

출처: Hugging Face Daily Papers