DecisionPivot, 평균 정확도로는 보이지 않는 LLM 판단 능력 진단

배경

LLM 시스템에서 모델은 텍스트를 생성하는 역할을 넘어 요청 라우팅, 안전 가드레일 적용, 출력 검증과 같은 의사결정도 수행합니다. 이런 용도에서는 개별 문항의 정답률만으로 충분하지 않습니다. 입력에서 판단을 바꾸는 핵심 세부사항이 달라졌을 때 모델이 그 변화를 안정적으로 반영하는지, 그리고 높은 확신을 부여한 예측이 실제로 더 신뢰할 만한지 확인해야 합니다.

Hugging Face Daily Papers에 소개된 DecisionPivot은 이런 문제를 진단하기 위해 설계된 벤치마크입니다. 하나의 종합 점수로 모델을 줄 세우는 대신, 통제된 변형에 대한 반응과 확신도 품질을 세분화해 살펴봅니다.

평가 구성

DecisionPivot은 7개 의사결정 역할을 포괄하는 48개 과제와 40,033개 항목으로 구성됩니다. 평가는 두 트랙으로 나뉩니다.

• 핵심 트랙: 13개 생성 과제군에서 만든 7,800개 항목을 포함합니다. 항목은 대조 그룹으로 묶이며, 각 그룹에서는 정답을 바꾸는 핵심 요소가 통제된 방식으로 달라집니다. 계산으로 도출한 정답은 서로 독립적으로 구현된 솔버를 통해 검증됩니다.
• 참조 트랙: 35개 공개 테스트 세트에서 가져온 32,233개 항목으로 구성되며, 원래 데이터 세트의 평가 지표를 유지합니다.

연구진은 40개 의사결정 모델과 14개 범용 모델을 대상으로 모델별 평가 절차를 문서화해 실험했습니다. 측정 항목은 일반적인 항목 정확도, 대조 그룹 정확도, 확률 순위, 확률 보정, 경험적 선택적 커버리지입니다. 이는 모델이 정답을 맞히는지뿐 아니라, 어떤 변화에 반응하는지와 자신의 예측을 얼마나 신뢰할 수 있는지를 함께 확인하기 위한 구성입니다.

평균 점수의 한계

공개된 결과는 종합 점수가 중요한 차이를 가릴 수 있음을 보여줍니다. 27B 규모의 두 모델은 참조 트랙에서 2.6점 차이에 그쳤지만, 대조 그룹 정확도는 각각 70.1%와 44.2%로 크게 갈렸습니다. 독립적인 문항에서 비슷한 성적을 보이는 모델이라도 판단을 좌우하는 세부사항을 추적하는 능력은 다를 수 있다는 의미입니다.

확률 순위와 실제 정답 여부 사이에도 간극이 나타났습니다. 2,400개의 이진 대조 쌍에서 Perplexity Decider는 양성 항목을 음성 항목보다 높은 확률로 배치한 비율이 92.3%였습니다. 그러나 두 항목을 모두 정확히 답한 비율은 74.1%에 머물렀습니다. 두 사례의 상대적 경향은 파악하더라도, 각각의 최종 결정을 정확히 내린다고 보장할 수는 없는 것입니다.

확신도 역시 별도로 평가해야 합니다. 항목 정확도가 비슷한 모델도 높은 확신을 보인 예측의 신뢰성에서는 차이를 보일 수 있습니다. 또한 1,296개 항목으로 구성된 별도 하위 집합에서 GLM-5.3의 대조 그룹 정확도는 높은 추론 설정에서 93.5%, 최저 추론 설정에서 81.5%였습니다.

의미와 영향

DecisionPivot의 핵심 의의는 모델 평가를 실제 배포 상황에 더 가깝게 만든다는 데 있습니다. 라우터, 가드레일, 출력 검증기는 평균적으로 몇 문제를 맞히는지만으로 평가하기 어렵습니다. 어떤 핵심 요소에서 실패하는지, 짝을 이룬 사례 사이에서 판단을 일관되게 바꾸는지, 높은 확신의 결과를 자동으로 채택해도 되는지를 함께 알아야 합니다.

따라서 향후 의사결정 모델 평가는 종합 정확도와 함께 대조 테스트, 확률 행동, 보정, 선택적 커버리지를 결합할 필요가 있습니다. 다만 제공된 소재는 벤치마크의 설계와 주요 요약 결과를 중심으로 하며, 전체 과제 목록이나 모든 모델의 순위, 상세 재현 절차까지 제시하지는 않습니다. DecisionPivot은 모든 모델에 대한 최종 결론이라기보다, 평균 지표가 놓치는 실패 양상을 찾기 위한 진단 프레임워크로 이해하는 것이 적절합니다.

출처: Hugging Face Daily Papers