DiffusionGemma: 이산 확산으로 LLM의 순차 생성 병목을 겨냥하다

도입

대부분의 대형 언어 모델은 자기회귀 방식으로 텍스트를 생성한다. 먼저 하나의 토큰을 만들고, 그 결과를 바탕으로 다음 토큰을 생성하는 과정을 반복한다. 이 구조는 오늘날 LLM의 품질을 뒷받침해 왔지만, 동시에 추론 속도와 처리량 측면에서는 뚜렷한 한계를 만든다.

DeepMind 팀이 공개한 기술 보고서의 DiffusionGemma는 이 문제에 다른 접근을 제시한다. 텍스트를 한 토큰씩 확정하는 대신, 256토큰 단위의 블록을 병렬로 다루고 이산 확산 과정을 통해 반복적으로 보정한다. 즉, 언어 생성을 순차 예측이 아니라 블록 단위의 노이즈 제거 문제로 재구성하려는 시도다.

핵심 내용

• 토큰 단위가 아닌 블록 단위 생성: DiffusionGemma는 256토큰 블록을 대상으로 여러 번의 정제 단계를 거친다. 이를 통해 각 토큰이 이전 토큰의 생성을 기다려야 하는 자기회귀 디코딩의 병목을 완화한다.
• 텍스트를 위한 이산 확산: 확산 모델은 이미지 생성에서 널리 알려져 있지만, 텍스트는 연속 픽셀이 아니라 이산 기호의 시퀀스다. DiffusionGemma는 양방향 노이즈 제거를 학습해 손상된 토큰 시퀀스에서 더 자연스러운 출력을 복원하도록 설계됐다.
• Gemma 4 기반 미세조정: 모델은 처음부터 학습된 것이 아니라, 3.8B 활성 파라미터와 25.2B 전체 파라미터를 갖는 Gemma 4 Mixture-of-Experts 모델을 미세조정해 얻었다. 보고서에 따르면 이 학습 파이프라인은 출발점이 된 자기회귀 모델의 전체 학습 토큰 예산의 10% 미만을 사용한다.
• 2단계 학습 파이프라인: 첫 단계는 지도 미세조정으로 양방향 노이즈 제거 능력을 학습시킨다. 두 번째 단계는 강화학습과 샘플러 증류를 결합해 생성 품질과 추론 효율을 함께 개선한다.
• 높은 처리량: 전체 평가 세트 평균 기준으로 한 번의 forward pass에서 약 20토큰을 생성하며, 단일 NVIDIA H100 GPU에서 약 1,500 출력 토큰/초를 달성한다고 보고됐다.
• 기존 기능 유지: 확산 방식으로 미세조정했음에도 사고 모드, 멀티모달 입력, 긴 컨텍스트 지원을 유지한다고 설명한다. 또한 자기회귀 생성도 약간의 성능 저하만으로 가능하다고 한다.

의미와 영향

DiffusionGemma가 흥미로운 이유는 LLM의 속도 문제를 단순한 서빙 최적화가 아니라 디코딩 패러다임의 문제로 바라보기 때문이다. 만약 확산 기반 텍스트 생성이 충분한 품질을 유지하면서 훨씬 높은 처리량을 제공할 수 있다면, 대규모 추론 서비스의 비용과 지연 시간 구조에 영향을 줄 수 있다.

특히 대량 콘텐츠 생성, 긴 글 초안 작성, 응답 속도가 중요한 대화형 서비스에서는 한 번의 계산으로 더 많은 토큰을 전진시키는 능력이 큰 장점이 될 수 있다. 동시에 DiffusionGemma가 자기회귀 생성 능력을 완전히 잃지 않았다는 점은 향후 확산과 자기회귀를 결합한 하이브리드 디코딩 가능성을 시사한다.

다만 현재 단계에서는 실험적 모델로 보는 것이 적절하다. 제공된 요약만으로는 세부 벤치마크, 실패 사례, 실제 배포 비용을 모두 판단하기 어렵다. 그럼에도 DiffusionGemma는 앞으로의 LLM 경쟁에서 모델 크기와 데이터뿐 아니라 “어떤 방식으로 생성하느냐”가 중요한 혁신 축이 될 수 있음을 보여준다.

출처: Hugging Face Daily Papers