Route Anything: 범용 AI가 작업마다 알맞은 모델을 고르는 방법

들어가며

범용 인공지능을 만든다고 해서 하나의 거대 모델이 모든 능력을 맡아야 하는 것은 아니다. 언어 이해, 이미지·영상 생성, 음성, 코딩, 업무 에이전트, 로봇 조작처럼 서로 다른 과제에 특화된 모델과 도구, 실행 정책을 조합하는 방법도 있다. 이 구조에서는 입력마다 어떤 후보를 사용할지 결정하는 라우터가 핵심 구성 요소가 된다.

논문 ‘Route Anything’은 바로 이 선택 문제를 체계적으로 다룬다. 핵심 질문은 작업 품질과 계산 비용 사이의 균형을 고려하면서, 각 입력을 어떤 모델이나 정책으로 보낼 것인가이다. 전체적으로 가장 강한 모델을 찾기보다, 특정 입력에 가장 적합한 후보를 선택하는 관점이다.

핵심 내용

• 모델과 정책을 통합해 분석한다. 연구진은 모델, 도구, 정책을 후보 구성으로 보고 품질·비용 절충을 고려한 라우팅 이론을 제시했다. 라우터가 이용할 수 있는 정보가 많을수록 달성 가능한 성능의 상한도 높아진다는 점을 분석했다.
• 다양한 모달리티를 한데 묶었다. 언어 이해, 이미지·영상·음성 생성, 코드 및 업무 에이전트, 로봇 조작을 포함한 25개 벤치마크를 대상으로 했다. 평가 행렬은 452개 후보 구성과 374,401개의 점수화된 실행으로 이뤄졌다.
• 이상적 라우팅은 모델 간 상호보완성을 보여준다. 입력별로 가장 좋은 후보를 선택할 수 있는 경우, 최고의 고정 후보보다 5.4포인트 높은 결과를 냈다. 하나의 모델이 모든 입력에 최적이지 않을 수 있다는 뜻이다.
• 학습형 라우터도 실질적인 개선을 보였다. 16개 벤치마크에서 최고의 고정 후보보다 0.3포인트 높았으며, 영상 생성에서는 2.1포인트, 로봇 조작에서는 1.1포인트 향상됐다. 동시에 정책 실행 시간은 24% 줄었다.
• 성능 향상뿐 아니라 효율도 중요하다. 네 가지 설정에서 평균 상대 효율이 8.82배 높아졌다고 보고됐다. 다만 이 수치는 논문에서 사용한 참조 모델, 비용 정의, 실험 조건에 영향을 받으므로 모든 운영 환경에 그대로 적용되는 보장으로 해석해서는 안 된다.

의미와 한계

Route Anything의 중요한 점은 라우팅을 단순한 서빙 최적화 기법이 아니라 범용 AI 시스템의 기본 설계 문제로 다뤘다는 데 있다. 쉬운 요청은 저비용 후보로 보내고, 복잡한 요청은 더 강력한 후보에 맡기며, 필요할 때는 도구나 다른 정책으로 전환할 수 있다. 이런 계층은 평균 추론 비용을 낮추고, 서로 다른 모델 자산의 활용도를 높일 가능성이 있다.

이 접근은 멀티모달 비서와 체화형 에이전트에 특히 적합하다. 텍스트 질문, 영상 생성, 로봇 행동은 요구하는 능력과 지연 시간, 비용이 모두 다르기 때문이다. 고정된 하나의 모델보다 작업별 선택 계층을 두는 편이 이러한 차이를 다루기 쉽다.

물론 실제 도입에는 검증이 필요하다. 제공된 요약만으로는 라우터가 어떤 입력 특징을 사용하는지, 어떻게 학습되는지, 운영 과정에서 얼마만큼의 추가 비용이 발생하는지 모두 알 수 없다. 라우팅 오류, 후보 성능의 변화, 벤치마크 간 일반화도 중요한 변수다. 라우터의 판단이 충분히 빠르고 안정적이지 않다면 절감 효과가 줄어들 수 있다.

결국 이 연구의 메시지는 대형 범용 모델이 불필요하다는 것이 아니다. 전문 모델의 생태계가 커질수록 어떤 모델을 언제 선택하고 어떻게 결합할지 결정하는 능력이 모델 자체의 확장만큼 중요해질 수 있다는 뜻이다. 라우팅은 향후 범용 AI 추론 스택의 핵심 계층으로 자리 잡을 가능성이 있다.

출처: Hugging Face Daily Papers