Drex, 한 번의 순전파로 구조화된 AI 의사결정 수행

배경

대규모 언어 모델은 문서 심사, 라우팅, 순위 결정, 에이전트 제어 등 다양한 업무에 활용된다. 그러나 이러한 작업에서 항상 긴 답변이 필요한 것은 아니다. 많은 시스템은 정해진 후보 중 하나를 선택하고, 각 선택의 신뢰도를 알고 싶어 한다. 자기회귀 방식은 토큰을 순서대로 생성한 뒤 결과를 다시 파싱해야 하므로 지연, 형식 오류, 동일 입력에 대한 불안정성이 생길 수 있다.

Nace.AI의 Drex는 이 문제를 전용 의사결정 모델의 문제로 정의한다. 모델은 자연어 답변을 생성하는 대신 한 번의 순전파에서 후보별 확률 분포를 출력한다.

구조화된 입력과 출력

Drex 요청은 상태와 해당 상태에 대한 질문으로 구성된다. 상태는 문서, 레코드, 에이전트 컨텍스트가 될 수 있으며 이미지도 포함할 수 있다. 질문은 사용자가 제공한 선택지 중 하나를 고르거나, 예·아니오로 판단하거나, 순서가 있는 척도에 점수를 부여하도록 만들 수 있다.

이 방식은 운영 시스템에 적합하다. 애플리케이션은 확률을 직접 읽어 신뢰도 임계값을 적용하고, 불확실한 사례를 사람이나 더 큰 모델로 넘길 수 있다. 자연어 응답에서 정규식으로 결과를 추출하는 과정도 필요하지 않다.

모델 구성과 학습

Drex 제품군은 8B 파라미터의 DLM, 9B의 v1.5, 전체 35B 중 약 3B만 활성화하는 v2.0, 27B의 Max로 구성된다. 학습에는 지도 미세조정과 ‘조정된 피드백을 통한 강화학습’인 RLAF가 사용된다. RLAF는 검증된 결과와 추론 심사자의 신호를 결합하고 KL 제약을 적용해 기존 능력에서 지나치게 벗어나는 것을 제한한다. Max에는 이미지 입력을 위한 비전 튜닝도 적용됐다.

제거 실험에 따르면 RLAF는 정확도를 높였고, 일관성 손실은 선택지 배열 순서에 대한 민감도를 낮췄다. 보고된 실험에서 선택지 순서를 바꿨을 때 답이 뒤집히는 비율은 6.3%에서 4.2%로 감소했다. 의사결정 API에서는 후보의 순서만 바뀌었다고 판단이 달라지지 않는 특성이 중요하다.

성능과 지연 시간

Decision Index 0.4.1 공개 스위트에서 Drex Max는 67.52점을 얻어 비교 대상인 Jev 1.14.0의 60.70점을 넘어섰다. 관리 주체가 운영하는 비공개 테스트에서도 66.60점을 유지했다. Decision Bench v4에서는 d3-turbo와 GPT-6 Sol과 통계적으로 비슷했으며, Claude Opus 5.5보다 약 1.6점 낮았다. DecideBench에서는 의사결정 모델 가운데 가장 높은 정확도를 기록한 것으로 보고됐다.

효율성은 Drex의 핵심 주장이다. Max의 일반적인 요청 처리 시간은 약 183밀리초로, 비교 대상인 GPT-6 Sol의 약 2.0초와 Claude Opus 5.5의 약 3.5초보다 짧다. 다만 실제 서비스 지연은 하드웨어, 배치 처리, 입력 길이, 서빙 구성에 따라 달라질 수 있다.

의미와 한계

Drex는 모든 AI 애플리케이션을 범용 대화 모델로 만들어야 하는 것은 아니라는 점을 보여준다. 상태와 후보 집합, 판단 목표가 명확한 경우 확률을 직접 반환하는 전문 모델이 속도와 통합 편의성, 일관성에서 유리할 수 있다. 문서 검토, 위험 분류, 검색 결과 순위화, 에이전트 도구 선택, 이미지가 포함된 기록 판단 등이 적용 사례가 될 수 있다.

다만 의사결정 모델이 개방형 추론을 대체하는 것은 아니다. 결과는 상태 표현과 질문, 선택지 설계에 크게 좌우되며 출력 확률이 현실 위험의 확률로 자동 보정되는 것도 아니다. 따라서 공개 벤치마크 점수뿐 아니라 실제 데이터에서의 보정, 업무별 오류 비용, 분포 변화에 대한 안정성을 함께 평가해야 한다.

Drex는 가중치와 추론 코드를 공개했다. 개발자는 자신의 워크플로에서 이 방식이 생성형 모델보다 더 빠르고 안정적인 인터페이스를 제공하는지 직접 검증할 수 있다.

출처: Hugging Face Daily Papers