모델 평가

AgentWorld는 여러 LLM 에이전트가 개별 능력을 단순히 합치는 수준을 넘어 장기적으로 협력할 수 있는지 MMORPG 샌드박스에서 평가한다. 실험 결과 통신, 역할 분담, 공동 계획 유지에서 뚜렷한 한계가 나타났다.

운영 중인 Text-to-SQL 파이프라인을 감사한 연구에서 LLM-as-Judge가 인간 평가와 크게 어긋나고, 올바른 SQL을 과도하게 문제로 분류하는 현상이 확인됐다. 단순히 모델을 늘리는 것보다 심사 모델 교체와 보수적인 라우팅이 효과적이었다.

ScopeBench는 공격 능력과 고객이 승인한 범위를 준수하는 능력을 분리해 평가한다. 목표 달성 압박이 커질 때 성능이 높은 모델이 항상 더 안전한 것은 아니라는 점을 보여준다.

BioEVAL은 22개 연구 그룹이 공동 구축한 생명공학 분야용 대규모 언어 모델·멀티모달 모델 평가 벤치마크입니다. 지식 회상뿐 아니라 문헌 종합과 실험 이미지 해석까지 평가해 분야별 성능 편차를 보여줍니다.

파라미터 수와 FLOPs는 모델 크기와 계산량을 보여주지만, 같은 예산을 깊이·너비·어텐션 헤드·FFN에 어떻게 배분했는지는 설명하기 어렵습니다. NSC는 네트워크 사양만으로 구조적 용량을 계산하고, 동적 계획법으로 예산 내 설계를 찾습니다.

ExplorationBench는 AI가 사전학습 지식을 단순히 떠올린 것이 아니라 실험을 통해 새로운 규칙을 발견했는지 평가하기 위한 벤치마크다. 실행 가능하면서도 상식과 충돌하는 가상 세계를 활용해 답을 정확히 검증한다.

한 연구팀이 표준 API의 커스텀 도구 호출을 이용해 프런티어 모델의 중간 추론 일부를 외부로 드러냈다. GPT-6 Astra는 짧고 직선적인 추론을 보였지만, 보이는 추론만으로 실제 내부 사고를 입증할 수는 없다.

WhatWorkedBench는 제한된 실험 예산으로 구성 요소 변경이 결과에 미치는 영향을 예측하는 AI 연구 에이전트의 능력을 평가합니다. 가우시안 프로세스와 코드 동작 등가성을 활용하면 효과 복원 성능이 크게 향상됩니다.

대규모 언어 모델은 얼마나 자주 맞히는지만이 아니라, 자신의 답이 얼마나 확실한지 정확하게 표현하는지도 평가받아야 한다는 주장이 나왔다. 보정 측정법은 이미 존재하며, 핵심 문제는 이를 일반적인 평가에 도입하는 데 있다.

연구진은 저장소의 실행 동작은 유지하면서 이름과 구조를 동적으로 바꾸는 SchrodingerRepo를 제안했습니다. 이를 통해 SWE-bench 같은 정적 벤치마크에서 모델이 실제 추론보다 익숙한 프로젝트 단서에 의존하는지 পরীক্ষা합니다.

새 연구는 언어 모델이 답을 몰라서 답하지 않는지, 알고 있지만 숨기는지를 내부 상태로 구분하는 PIR을 제안했습니다. 기만 프롬프트, 샌드배깅, 비밀번호 잠금, 회로 차단 조건에서도 모델이 인식한 답을 탐지할 수 있다고 보고했습니다.

영국 AI 안전 연구소(AISI)가 EvalEval의 Evaluation Cards를 활용해 일부 모델 평가의 결과와 함께 방법, 설정, 맥락 정보를 공개하고 있다. 평가 프로토콜이 결과에 미치는 영향을 더 잘 이해하고 검증할 수 있도록 하는 시도다.

CADWorld는 FreeCAD에서 기계 CAD의 장기 작업 흐름을 평가하는 벤치마크입니다. 화면을 조작하는 데 그치지 않고, 형상과 제약 조건, 파라메트릭 구조를 유지한 검증 가능한 설계 파일을 생성할 수 있는지를 측정합니다.

새 연구에 따르면 최첨단 대규모 언어 모델도 실제에 가까운 BI 작업에서 정확도 50% 미만을 기록했습니다. 연구진은 데이터 검색부터 변환, 조인, 질의 응답까지 평가하는 BI-Bench와 도구 증강형 BI-Agent를 제안했습니다.

APort Vault는 도구를 사용하는 AI 에이전트가 결제 요청과 승인된 결제 실행을 구분하는지 평가하는 벤치마크다. Open Agent Passport 기반의 결정적 사전 검사를 적용하자 허용되지 않은 수취인으로의 송금은 비교 조건에서 140건에서 0건으로 줄었다.

모델이 생성한 동료평가를 다음 세대 AI 심사자가 학습하면 평가 점수의 분포와 의미적 다양성이 축소될 수 있다는 연구가 나왔다. 연구진은 이를 ‘과학적 판단 붕괴’로 부르고 TrustReviewer를 통한 완화책을 제시했다.

한 연구에 따르면 소형 언어 모델에서는 토큰 단위 엔트로피가 답변의 정답 여부를 거의 구분하지 못한다. 여러 답변의 의미적 불확실성을 측정하는 시맨틱 엔트로피는 더 유용한 신뢰도 신호로 나타났다.

공개 테스트에 맞춰 학습할 수 있는 기존 벤치마크의 한계에 대응해, Vals는 비공개 과제와 산업별 업무 평가로 AI 모델의 신뢰도를 측정하려 한다.

새로운 연구는 MiniMax-H3가 텍스트·이미지·영상·오디오에 흩어진 불완전한 단서를 결합해 사건을 추론할 수 있는지 평가했다. 517개 사례에서 전체 성공률은 41.97%로 나타났다.

RiskChainBench는 숨겨진 플랫폼 유도 메시지를 복원하고 올바른 사이트를 찾아 증거 기반 위험 보고서를 작성하는 능력을 하나의 연쇄 과제로 평가한다. 결과는 텍스트 복원뿐 아니라 안정적인 탐색과 위험 판단도 주요 병목임을 보여준다.

기업용 AI의 위험은 평온한 대화보다 사용자의 반복 요구, 관리자의 시간 압박, 편리한 규정 위반 지름길이 등장할 때 드러난다. PACT는 규제 산업의 다중 턴 대화에서 AI의 규정 준수 능력을 평가한다.