Kolab, 인간과 AI 에이전트의 장기 협업을 다시 평가하다

들어가며

현실의 업무에서 AI 에이전트를 평가할 때 중요한 것은 한 번의 시도로 작업을 끝낼 수 있는지에 그치지 않는다. 계획을 고치고, 우선순위를 바꾸고, 앞선 결과에 따라 다음 단계를 조정하는 장기 과정에서 인간과 얼마나 잘 맞춰 가는지가 더 중요할 수 있다. 에이전트의 제안은 그대로 채택될 수도 있지만, 전문가가 수정해 사용하거나 전문적 판단에 맞지 않아 버릴 수도 있다. 자동화 중심의 기존 벤치마크는 이런 차이를 충분히 측정하지 못한다.

Kolab이 측정하는 것

Kolab은 실제 전문 업무 흐름을 활용해 이 공백을 다루는 데이터셋이다. 40개 직업에 속한 전문가 50명이 AI 에이전트와 현실적인 장기 과제를 수행하는 장면을 담았으며, 화면 녹화 분량은 115시간을 넘는다. 참여자들은 협업 경험과 결과물의 품질에 대해서도 판단을 남겼다.

이 벤치마크는 최종 작업 완료 여부만 보지 않고 두 가지 능력을 요구한다.

• 에이전트 기여의 활용 방식 예측: 전문가는 에이전트의 결과를 채택할지, 수정할지, 거부할지 판단해야 하며 모델은 그 선택을 예측해야 한다.
• 협업 품질 판단: 전문가가 계속 명시적인 피드백을 주지 않아도, 진행 중인 워크플로에서 만족도와 결과물 품질을 추정해야 한다.

에이전트의 답변은 채팅창 안에서 끝나지 않는다. 문서, 분석, 계획, 의사결정 등으로 옮겨진 뒤 실제 작업의 다음 단계를 바꿀 수 있다. 따라서 협업형 에이전트는 자신의 출력이 이후에 어떻게 처리될지 예상해야 한다. 계획이 다시 작성됐는지, 제안이 실제 행동을 바꿨는지, 사용자가 결과를 조용히 우회하고 있는지와 같은 간접 신호도 읽어야 한다.

주요 결과

Kolab은 인간과 에이전트가 협업하는 방식이 매우 다양하다는 점을 보여준다. 생성 결과가 좋아 보인다고 해서 협업도 성공적이라는 뜻은 아니다. 연구에 따르면 에이전트형 모델과 비에이전트형 모델을 포함한 최신 모델은 전문가와의 협업 수준을 과대평가하는 경향이 있으며, 높은 품질의 협업과 낮은 품질의 협업을 안정적으로 구분하지 못한다. 더 긴 워크플로 문맥을 제공해도 예측이 항상 좋아지지는 않았다.

의미와 영향

이 결과는 에이전트 평가 기준을 작업 완료율 너머로 확장해야 한다는 점을 시사한다. 장기 업무에서는 제안을 제때 내놓는지, 인간의 수정 의도를 이해하는지, 출력이 실제 행동으로 이어졌는지, 협업이 목표에서 벗어났는지를 파악하는 능력이 중요하다. Kolab은 전문가의 실제 행동과 주관적 품질 판단을 함께 다룰 수 있는 연구 기반을 제공한다.

다만 제공된 자료는 데이터셋의 설계와 전체적인 결과를 중심으로 하며, 직업·모델·과제별 세부 비교는 제시하지 않는다. 따라서 특정 제품의 성능 순위라기보다 기존 자동화 벤치마크가 놓친 평가 영역을 보여주는 연구로 이해하는 것이 적절하다.

출처: Hugging Face Daily Papers