Speculative Diffusion, 속도와 품질을 조절하는 두 가지 축

들어가며

대규모 언어 모델 추론에서 속도와 품질은 쉽게 동시에 높아지지 않는다. 추측 디코딩은 작은 초안 모델이 여러 토큰을 먼저 제안하고, 더 강력한 검증 모델이 이를 확인하도록 해 이 문제를 완화한다. 전통적인 수용 규칙은 검증 모델의 분포를 그대로 유지하도록 설계되기 때문에, 품질을 바꾸지 않고 일부 계산을 줄이는 무손실 가속으로 설명된다.

확산 언어 모델은 다른 방식으로 초안을 빠르게 만든다. 여러 토큰을 병렬로 생성할 수 있어 자동회귀 모델보다 적은 시간에 후보를 구성할 수 있기 때문이다. 다만 확산 단계를 줄이면 대체로 초안의 품질도 낮아진다. 《Speculative Diffusion is a Tale of Two Tradeoffs》는 여기서 중요한 질문을 던진다. 속도와 품질을 조절하는 요소가 확산 계산량 하나뿐인가라는 질문이다.

핵심 내용

• 확산 계산량은 첫 번째 조절 축이다. 계산을 적게 쓰면 초안은 빨라지지만 검증 모델과의 일치도가 떨어질 수 있다. 반대로 계산을 늘리면 후보 품질은 좋아질 수 있으나 가속 효과가 줄어든다.
• 수용 기준도 조절할 수 있다. 기존 방식은 검증 모델의 분포를 보존하기 위해 엄격한 기준을 적용한다. 연구는 일부 불일치를 허용하는 더 느슨한 기준을 고려하며, 일정한 품질 저하를 감수하고 추가 속도를 얻는 방향을 탐색한다.
• 두 축을 함께 바꾸는 것이 핵심이다. 확산 단계만 줄이거나 늘리면 가능한 운용 범위가 제한된다. 확산 노력과 수용 기준의 완화 정도를 동시에 조정하면, 특정 품질 수준에서 가장 빠른 설정이나 특정 속도에서 더 나은 품질을 제공하는 설정을 찾을 수 있다.
• 목표는 단일 기록이 아니라 파레토 전선이다. 연구는 가장 빠른 한 지점보다 속도와 품질의 다양한 조합을 평가한다. 실험 결과, 두 변수를 공동으로 바꾸는 방식이 단일 단계 확산 초안보다 더 넓은 속도·품질 파레토 전선을 제공하는 것으로 나타났다.

의미와 영향

이 연구의 핵심 시사점은 무손실성을 추측 디코딩의 고정 조건으로만 보지 않는다는 데 있다. 정확성과 일관성이 중요한 서비스라면 엄격한 수용 기준과 더 많은 초안 계산을 사용할 수 있다. 반대로 대화형 애플리케이션처럼 낮은 지연이 더 중요하고 일정한 품질 저하를 허용할 수 있는 경우에는 두 요소를 완화할 수 있다.

이 관점은 확산 초안과 자동회귀 검증의 관계도 다시 보게 한다. 이는 단순히 한 모델을 다른 모델로 교체하는 문제가 아니라, 초안 생성과 검증 사이에 계산 예산을 어떻게 나눌지 결정하는 시스템 설계 문제다. 최적 지점은 작업의 특성, 검증 모델, 하드웨어, 허용 가능한 품질 저하에 따라 달라질 수 있다.

제공된 연구 결과는 모든 상황에 적용되는 단일 설정을 제시하지 않는다. 대신 확산 단계만 조절하는 것보다 두 축을 함께 탐색하는 편이 더 많은 선택지를 제공한다고 보여준다. 향후 추론 서비스는 요청의 품질 요구와 지연 목표에 따라 초안 계산량과 수용 정책을 동적으로 선택할 수 있다.

결국 Speculative Diffusion의 방향은 “얼마나 빠르게 만들 수 있는가”에서 “속도 향상을 어디에 배분할 것인가”로 이동하고 있다. 병렬 확산 초안과 자동회귀 검증을 실제 시스템에 결합할수록 이런 세밀한 예산 조절의 중요성은 커질 가능성이 높다.

출처: Hugging Face Daily Papers