NESTONE, 필요한 만큼만 계산하는 의사결정 모델

들어가며

대규모 언어 모델을 빠르고 직접적인 판단을 수행하는 System 1형 모델로 활용하려는 시도가 늘고 있다. 일반적인 전환 방식은 언어 모델링 헤드를 의사결정 헤드로 바꾸고, 나머지 트랜스포머 백본은 그대로 유지하는 것이다. 기존 능력을 보존할 수 있다는 장점이 있지만, 쉬운 입력도 모든 층을 통과해야 하므로 추론 비용이 항상 높게 유지된다. Hugging Face Daily Papers에 소개된 이번 연구는 의사결정에 실제로 필요한 모델 깊이가 어느 정도인지 분석했다.

핵심 내용

• 의사결정 정보는 층마다 다르게 분포한다. 초기 층은 필수적인 기본 특징을 구성하고, 중간 층은 판단에 필요한 정보를 상당 부분 담는 것으로 나타났다. 보고된 실험에서는 마지막 6개 층을 제거해도 성능 손실이 없었다.
• 작은 모델이 자동으로 전문화되지는 않는다. 별도로 학습한 소형 모델은 의사결정에 특화된 능력을 새롭게 만들기보다 전체 모델의 행동을 상당 부분 모방했다. 따라서 백본을 단순히 줄이는 것만으로는 충분한 효율 개선을 얻기 어려울 수 있다.
• NESTONE은 여러 깊이에서 계산을 공유한다. 이 방법은 전체 모델과 여러 접두부 하위 모델을 함께 학습한다. 후반 층과 의사결정 헤드를 공유하고, 자기 증류를 통해 얕은 경로가 전체 모델의 판단 방식을 학습하도록 한다.
• 게이트가 조기 종료 여부를 결정한다. 경량 게이트는 각 출구의 은닉 상태를 읽고 추가 계산이 필요한지 판단한다. 쉬운 입력은 얕은 지점에서 멈추고, 더 복잡한 입력은 깊은 층으로 계속 처리한다.

의미와 영향

이 연구의 핵심은 효율화를 단순히 “더 작은 모델을 만드는 일”로 보지 않는 데 있다. 서로 다른 크기의 모델을 별도로 운영하는 대신, 하나의 모델이 여러 추론 깊이를 제공하고 파라미터와 지식을 공유하도록 하는 접근이다. 이 방식은 학습과 저장 과정의 중복을 줄이면서도 어려운 입력에는 높은 계산 능력을 투입할 가능성을 제시한다.

지연 시간이 중요한 의사결정 시스템에서는 일반적인 입력을 빠르게 처리하고, 불확실하거나 복잡한 사례에만 추가 계산을 배정할 수 있다. 이는 고정된 깊이로 항상 실행하는 모델보다 정확도와 효율 사이의 균형을 유연하게 조정하는 방법이 될 수 있다. 또한 최종 출력만 평가할 것이 아니라, 중간 표현이 어느 시점부터 실용적인 판단 능력을 갖추는지도 살펴봐야 한다는 시사점을 준다.

다만 제공된 자료에는 7개 벤치마크의 구체적인 이름과 정확도 수치, 실제 하드웨어에서의 비용이 제시되지 않았다. 따라서 NESTONE의 배포상 이점은 다양한 작업과 장치에서 추가로 검증해야 한다. 그럼에도 이 연구는 효율적인 의사결정 추론이 여러 소형 모델을 만드는 것보다, 하나의 모델이 깊이에 따라 계산을 공유하도록 설계하는 데서 나올 수 있음을 보여준다.

출처: Hugging Face Daily Papers