CRM-Agent-Bench, 기업용 AI 에이전트의 실제 실행력을 검증하다

들어가며

기업용 소프트웨어에서 자연스러운 답변은 업무 완료와 다르다. 에이전트가 잘못된 도구를 호출하거나, 다른 고객 기록을 수정하거나, 필수 단계를 건너뛰면 대화가 아무리 매끄러워도 실제 업무는 실패한다. 변경해서는 안 되는 데이터를 건드리는 실수는 서비스 장애와 규정 준수 위험으로 이어질 수 있다.

Hugging Face Daily Papers에 소개된 CRM-Agent-Bench는 이런 ‘말하기와 실행하기의 차이’를 측정하기 위한 평가 프레임워크다. 고객관계관리 시스템을 실험 환경으로 삼아, 상태가 계속 변하는 업무 공간에서 에이전트가 여러 차례의 대화와 도구 호출을 통해 작업을 완수하는지 검증한다.

핵심 내용

• 555개의 상태 유지형 과제: 9개 비즈니스 영역과 36개 역량 태그를 다루며, 독립적인 질문에 답하는 대신 변화하는 업무 기록을 조작해야 한다.
• 최종 결과뿐 아니라 과정도 평가: 어떤 행동을 선택했는지, 어떤 인자를 전달했는지, 요구된 순서를 지켰는지를 확인한다.
• 과제별 실행 계약: 행동, 인자, 응답, 목표 상태, 보호 상태 등을 검사한다. 해당 과제에 선언된 모든 조건을 통과해야 엄격 성공으로 인정된다.
• 전체 에이전트 시스템을 측정: 언어 모델만이 아니라 대화, 계획, 도구 사용, 실행을 포함한 시스템 전체를 대상으로 하며, 커버리지와 지연 시간, 비용도 기록한다.
• 종합 점수만으로는 부족: 감사된 최종 릴리스에서 16개 시스템의 엄격 성공률은 64.32%에서 83.60%였다. 선두 시스템도 비용과 도메인별 안정성에서는 큰 차이를 보였다.

의미와 영향

기존 에이전트 벤치마크는 답변 정확도나 작업이 끝난 것처럼 보이는지를 중심으로 평가하는 경우가 많았다. CRM-Agent-Bench는 업무 자동화의 숨은 조건을 명시적으로 드러낸다. 무엇을 실행해야 하는지, 무엇을 실행해서는 안 되는지, 단계의 순서를 바꿀 수 있는지, 최종 데이터 상태가 어떻게 되어야 하는지를 검증 가능한 계약으로 정의한다는 점이 핵심이다.

이는 실제 시스템 도입을 비교하는 데도 유용하다. 성공률이 조금 더 높은 시스템이라도 비용과 지연이 크거나, 특정 핵심 업무 영역에서 불안정하다면 운영 환경에 더 적합하다고 단정하기 어렵다. 또한 비슷한 총점이라도 보호 상태를 훼손하는 실패는 일반적인 작업 미완료보다 훨씬 큰 위험을 만들 수 있다.

더 넓은 관점에서 기업용 에이전트는 ‘무엇을 달성했는가’만으로 평가할 수 없다. ‘어떻게 달성했는가’, ‘효율적으로 운영할 수 있는가’, ‘정해진 규칙을 지켰는가’도 함께 봐야 한다. CRM에서 제시된 계약 기반 평가 방식은 ERP, 고객지원, 재무 등 상태와 권한 제약이 있는 다른 업무 흐름에도 확장될 가능성이 있다. 개발자에게 필요한 다음 단계는 언어 능력 향상뿐 아니라 계획, 도구 호출, 상태 전이, 정책 준수를 감사 가능한 체계로 묶는 일이다.

출처: Hugging Face Daily Papers