모델 평가

AI 에이전트의 평가는 현재 능력뿐 아니라 경험을 얼마나 효율적으로 미래의 성능 향상으로 바꾸는지도 다뤄야 한다. 연구는 이 특성을 ‘에이전트 가소성’으로 정의하고 학습 효율과 일반화의 차이를 분석했다.

SWE-Game은 게임 구현부터 오류 수정과 엔진 간 포팅까지 247개 과제로 코딩 에이전트를 평가하는 벤치마크입니다. 결과는 에이전트가 플레이 가능한 프로토타입을 만들 수 있지만, 요구사항 누락과 게임 로직 오류가 여전히 큰 과제임을 보여줍니다.

UltraText Bench는 영어와 중국어의 밀집된 시각 텍스트를 대상으로 이미지 생성 모델을 여러 영역과 난이도에서 평가하는 벤치마크입니다. 텍스트의 선명도와 요청한 내용을 정확히 재현하는 능력은 서로 다를 수 있다는 점을 보여줍니다.

대규모 언어 모델이 출력하는 사고 연쇄는 내부 계산을 항상 충실하게 반영하지 않습니다. 새로운 연구는 CIA 지표로 두 과정의 일치도를 측정하고, 후학습을 통한 개선 가능성도 검증했습니다.

과학 에이전트의 성능이 빠르게 향상되면서 고정형 벤치마크는 모델 간 차이와 실패 원인을 충분히 보여주기 어려워지고 있습니다. AutoSciBench는 풀이 궤적과 평가 피드백을 활용해 과학 과제를 자동 생성하고 반복적으로 수정합니다.

테스트 시 학습에서 모델이 스스로 생성한 텍스트를 계속 학습하면 장기 적응 과정에서 독립적인 인간 작성 텍스트에 대한 예측 성능이 떨어질 수 있다는 연구가 나왔다. 업데이트를 확정하기 전에 독립 데이터로 검증하는 방식이 효과적인 완화책으로 제시됐다.

UndoBench는 도구를 사용하는 AI 에이전트의 정상적인 작업 수행 능력과 장애 이후 안전하게 복구하는 능력을 분리해 평가한다. 실험 결과, 작업을 완료하더라도 중복 외부 효과를 막지 못하는 사례가 상당수 나타났다.

새 연구는 대규모 언어 모델의 수학 추론을 발견, 생성, 이해, 실행의 네 능력으로 나누어 분석한다. 최종 정답률만으로는 모델의 실제 역량 구성을 알기 어렵다고 지적하고, 수학적 프리미티브를 활용한 보완 방법을 제안한다.

OSWorld-Pro는 컴퓨터 사용 에이전트가 최종 상태에 도달했는지만 보지 않고, 연속적인 하위 목표를 어떻게 수행했는지 평가한다. 클릭 오류와 키보드 입력 실수, 목표와 무관한 행동까지 분석할 수 있다.

새로운 생성 모델과 적대적 섭동은 기존 딥페이크 탐지기의 성능을 크게 떨어뜨립니다. 한 연구팀은 알려진 생성기가 이미지를 충실하게 재구성할 수 있는지 확인하고, 오인증 위험을 보정하는 접근법을 제안했습니다.

한 연구가 세 가지 효율적 추론 훈련 방식이 사고연쇄의 충실성과 모니터링 가능성에 미치는 영향을 분석했습니다. 충실성은 대체로 낮아졌지만, 입력 개입을 감지하는 능력은 비교적 안정적이었습니다.

장문 의료 답변의 사실성을 분석한 연구는 검색 후 검증하는 시스템이 폐쇄형 벤치마크에서는 높은 점수를 받아도 임상 오픈엔드 답변에서는 크게 실패할 수 있음을 보여준다. 연구진은 문제를 검색된 증거의 품질과 검증 모델의 추론 오류로 나눠 분석했다.

SimuVerity는 AI 에이전트가 생성한 Simulink 모델이 단순히 컴파일되는지를 넘어 실제 공학 요구사항을 충족하는지 평가하는 벤치마크입니다. 101개 과제를 실험한 결과, 가장 높은 시스템의 종합 점수도 42.86에 그쳤습니다.

AI가 만든 논문의 문제는 어색한 문장이나 가짜 인용에만 있지 않다. 연구 질문, 방법, 실험, 결론을 연결하는 전체적인 과학적 추론의 붕괴를 평가하는 연구가 제시됐다.

HyperBrowseComp는 웹 브라우징 에이전트를 위한 고난도 평가 벤치마크다. 13개 언어와 다양한 증거 형식을 대상으로, 단순 검색이 아니라 흩어진 단서를 발견하고 연결하며 검증하는 능력을 측정한다.

한 연구가 데이터 계보가 기록된 합성 태스크를 활용해 표 형식 파운데이션 모델에 실제로 영향을 준 사전학습 데이터를 검증했다. 결과는 데이터 출처의 유사성과 모델 행동에 대한 인과적 기여가 서로 다를 수 있음을 보여준다.

ArrivalBench는 고정 스냅샷에서 한 번 올바르게 실행된 데이터 파이프라인도 지연·중복·순서 뒤섞임·재시도 데이터를 만나면 잘못된 상태를 남길 수 있음을 보여준다. 재현 가능한 전달 순서로 재실행해야 기존 평가가 놓친 문제를 확인할 수 있다.

Microsoft와 Hugging Face의 ThinkingBox는 에이전트의 답변이나 도구 호출보다 작업 후 남은 백엔드 상태와 부작용을 검사합니다. 각 작업을 20회 반복해 실행 일관성도 측정합니다.

OpenTumorBoard는 공개된 종양 다학제 회의 기록을 활용해 전문의 답변과 전체 회의 시뮬레이션을 평가하는 벤치마크입니다. 최신 모델도 전문가의 답변과 실제 위원회 결론을 일관되게 재현하는 데는 상당한 한계를 보였습니다.

Argo-Bench는 SQL 생성 능력만 확인하지 않고, 대규모 기업 데이터 웨어하우스에서 사실을 재구성한 뒤 분석과 업무 조치까지 수행할 수 있는지를 평가한다. 현재 모델은 다중 테이블 추론과 실제 의사결정에서 여전히 큰 과제를 안고 있다.

PhysVista는 비전-언어 모델이 영상의 표면적 내용을 인식하는 데 그치지 않고 물리적 일관성을 이해하는지 평가하는 벤치마크입니다. 실제 영상과 AI 생성 영상을 대상으로 물리 상태 인식, 동역학 추론, 물리적 개연성 판단을 하나의 루프로 검증합니다.