Explorative Modeling, 생성 모델 사전학습에 ‘탐색’ 축을 더하다

도입

오늘날 생성 모델은 이미지, 비디오, 언어 작업에서 뛰어난 성능을 보이고 있습니다. 하지만 많은 모델은 여전히 완전한 엔드투엔드 생성이라기보다 여러 단계로 나뉜 생성 절차에 의존합니다. 확산 모델은 반복적으로 노이즈를 제거하고, 자기회귀 모델은 토큰을 순차적으로 생성합니다. 논문 “Explorative Modeling”은 AlexNet 이후 딥러닝의 핵심 성공 원리였던 엔드투엔드 학습을 생성 모델에도 더 적극적으로 적용할 수 있는지 묻습니다.

논문이 제안하는 Explorative Modeling, 즉 XM은 생성 과정을 잘게 나누는 대신 학습 루프 자체에 탐색을 넣습니다. 모델이 만든 생성물과 실제 데이터 사이에서 K개의 후보 매칭을 탐색하고, 그중 가장 좋은 매칭을 선택해 학습하는 방식입니다. 목적은 다봉 분포에서 여러 가능한 답을 평균내 흐릿하게 예측하는 것이 아니라, 그중 하나의 타당한 모드에 확실히 커밋하도록 만드는 것입니다.

핵심 요점

• 분해의 위치를 생성에서 학습으로 이동: 기존 확장 가능한 생성 방법은 생성 절차를 여러 단계로 나누는 경우가 많지만, XM은 학습 중 후보 탐색으로 이 역할을 옮깁니다.
• 탐색이 세 번째 사전학습 축으로 제시됨: 파라미터 수와 데이터 양뿐 아니라 탐색 규모도 성능을 끌어올리는 스케일링 축이 될 수 있다는 주장입니다.
• 여러 도메인에서 단조 개선 보고: 이미지, 비디오, 언어처럼 연속 및 이산 영역을 포함한 실험에서 탐색을 늘릴수록 성능이 좋아졌다고 설명합니다.
• 규모가 커질수록 이득 증가: 제공된 요약에 따르면 데이터 스케일 증가에 따라 탐색 이득은 7%에서 36%로, 모델 크기 증가에 따라 13%에서 23%로 커졌습니다.
• 효율 개선 수치도 강조: 논문은 6.2배 샘플 효율, 4.1배 FLOP 효율, 47%의 파라미터 효율 개선을 보고합니다.

의미와 영향

이 연구의 핵심은 생성 모델의 발전을 더 큰 모델과 더 많은 데이터에만 묶어두지 않는다는 점입니다. 학습 중 탐색이라는 새로운 조절 변수를 제안함으로써, 향후 생성 모델 사전학습 레시피에 또 하나의 중요한 설계 축을 추가할 가능성을 보여줍니다. 결과가 더 넓은 환경에서 재현된다면 탐색 규모는 모델 폭, 깊이, 데이터 품질, 컴퓨트 예산만큼 중요한 요소가 될 수 있습니다.

엔드투엔드 생성 관점에서도 흥미롭습니다. 확산 모델은 안정적이고 품질이 높지만 반복 추론 비용이 큽니다. 자기회귀 모델은 이산 시퀀스에 적합하지만 순차 생성이라는 구조적 제약이 있습니다. XM은 복잡한 다봉 목표를 학습 시점의 후보 탐색으로 처리해, 추론 시 부담을 줄이면서도 생성 품질을 유지할 수 있는 가능성을 제시합니다. 소재에 따르면 XM은 제어 작업에서 확산 모델에 견줄 수 있으며 최대 256배 적은 추론 계산을 사용한다고 보고되었습니다.

물론 현재 정보는 논문 요약과 TLDR에 기반하므로, 실제 적용 범위는 원문과 독립적인 재현 연구를 통해 확인해야 합니다. K개 후보를 탐색하는 학습 비용, 작업별 안정성, 기존 확산·플로우·자기회귀 학습 기법과의 결합 가능성은 중요한 검증 포인트입니다. 그럼에도 Explorative Modeling은 생성 모델 효율 개선의 방향이 단순한 대형화만이 아니라, 학습 중 더 영리한 탐색에 있을 수 있음을 보여주는 흥미로운 제안입니다.

Source: Hugging Face Daily Papers