EMG, 에이전트 오류 수정을 그래프 매칭 문제로 바꾸다

도입

LLM 에이전트는 관찰을 해석하고 행동을 선택하며 여러 단계의 작업을 수행할 수 있다. 하지만 긴 작업에서는 초반의 작은 오류가 뒤따르는 행동 전체를 흔들 수 있다. 기존 접근은 대개 모델에게 실패를 되돌아보게 하고 다시 시도하게 하는 반성 기반 방식에 의존한다. 이 방식은 이해하기 쉽지만, 반복 호출과 시행착오가 필요해 시간과 비용이 커지고 결과도 불안정해질 수 있다.

arXiv 논문 “Experience Memory Graph: One-Shot Error Correction for Agents”는 이 문제를 다른 관점에서 다룬다. 제안된 EMG는 실패 복구를 자연어 반성의 문제가 아니라 그래프 매칭 문제로 재구성한다.

핵심 내용

• 궤적을 그래프로 변환: EMG는 학습 단계에서 실패한 탐색 궤적과 전문가의 성공 궤적을 방향성 행동 결정 그래프로 바꾼다. 이 그래프는 관찰, 상태, 행동의 연결 관계를 표현해 서로 다른 실행 과정을 비교할 수 있게 한다.
• 성공과 실패의 차이에서 수정 규칙 추출: 실패 그래프와 성공 그래프를 매칭해 공통 부분, 즉 성공적인 워크플로를 찾는다. 동시에 특정 관찰 아래 어떤 행동을 추가, 삭제, 또는 재명명해야 하는지를 나타내는 그래프 편집 경로를 만든다.
• 기억 그래프로 경험 저장: 추출된 경험은 작업 내부 노드와 작업 간 엣지를 포함하는 메모리 그래프에 저장된다. 이는 이후 새로운 상황에서 관련 수정 지식을 검색하기 위한 기반이 된다.
• 테스트 시 반복 없이 실행: EMG는 테스트 단계에서 필요한 경험을 검색해 에이전트를 안내한다. 여러 번 반성하고 다시 시도하는 루프를 전제로 하지 않는다.

의미와 영향

EMG의 흥미로운 점은 에이전트 메모리를 단순한 텍스트 요약이나 과거 로그가 아니라, 실패를 어떻게 고칠지 나타내는 구조화된 편집 정보로 다룬다는 데 있다. 수정이 그래프 편집 경로로 표현되면, 자연어 프롬프트에만 의존하는 반성보다 더 명시적이고 재사용 가능한 형태가 될 수 있다.

논문은 ALFWorld와 ScienceWorld 실험에서 EMG가 성공률과 평균 보상 측면에서 최신 반성 기반 기준선보다 일관되게 우수했다고 보고한다. 또한 테스트 시 시행착오가 필요 없다는 점을 강조한다. 다만 결과는 벤치마크 환경을 기반으로 하므로, 실제의 더 복잡한 작업에서의 일반화, 그래프 구축 비용, 모호한 관찰 상황에서의 검색 안정성은 추가 검증이 필요하다.

그럼에도 EMG는 에이전트 연구에서 중요한 방향을 보여준다. 미래의 에이전트 기억은 단순한 대화 기록이 아니라, 성공 흐름과 실패 원인, 수정 절차를 연결한 경험 그래프가 될 수 있다.

출처: arXiv