GPTQ-2D: 양측 적응형 반올림을 4차 시간에서 3차 시간으로

도입

GPTQ는 대규모 모델 양자화에서 자주 언급되는 기술이지만, 그 핵심은 이차 계량 아래에서 실수 행렬을 정수로 반올림하는 적응형 반올림 문제로 이해할 수 있다. 각 원소를 독립적으로 반올림하는 방식이 아니라, 정해진 순서대로 원소를 처리하고, 이미 발생한 반올림 오차를 아직 처리하지 않은 원소로 전파한다. Hugging Face Daily Papers에 올라온 논문 “GPTQ-2D: Cubic-Time Two-Sided Adaptive Rounding”은 이 문제를 더 일반적인 양측 설정으로 확장하고, 단순 벡터화가 초래하는 높은 계산 비용을 줄일 수 있는지 탐구한다.

핵심 내용

• 한쪽 구조에서 양측 구조로: 기존 GPTQ, 또는 이 맥락에서의 Babai 최근 평면 알고리즘은 삼각 피드백 행렬을 통해 오차를 전파하며 행렬 원소를 순차적으로 반올림하는 절차로 볼 수 있다. 논문이 다루는 양측 버전에서는 고정된 비특이 기저 행렬이 잔차의 왼쪽과 오른쪽 모두에 작용한다. 익숙한 한쪽 사례는 오른쪽 기저가 항등행렬인 특수한 경우다.

• 벡터화는 가능하지만 비싸다: 행렬을 하나의 벡터로 펼치면 양측 목적식은 표준적인 이차 계량 문제가 된다. 이때 Gram 행렬은 Kronecker 곱 구조를 가지므로 기존 1차원 알고리즘을 그대로 적용할 수 있다. 하지만 이 직접적인 접근은 행렬 차원에 대해 4차 시간 복잡도를 요구한다.

• GPTQ-2D의 계산 재구성: GPTQ-2D는 최종 결과를 바꾸는 근사 휴리스틱이라기보다, 같은 반올림 행렬을 더 효율적으로 얻기 위한 알고리즘이다. 핵심은 행렬 원소를 반대각선 단위로 처리하는 것이다. 이를 통해 벡터화된 1차원 알고리즘과 동일한 결과를 유지하면서 계산 경로를 2차원 구조에 맞게 재배열한다.

• 반대각선 내부의 병렬성: 같은 반대각선 위에 있는 원소들은 서로 독립적으로 반올림될 수 있다. 따라서 해당 원소들은 병렬 처리의 대상이 된다. 초록이 주로 점근적 계산량을 강조하고 있기는 하지만, 이 독립성은 실제 구현에서도 중요한 단서가 될 수 있다.

• 복잡도 개선: 논문의 핵심 주장은 GPTQ-2D가 직접 벡터화한 알고리즘과 동일한 반올림 행렬을 생성하면서도, 계산 시간을 4차에서 3차로 줄인다는 점이다.

의미와 영향

이 연구는 새로운 모델 발표나 완성된 양자화 시스템의 성능 보고라기보다, 양자화와 관련된 수학적 기본 연산을 더 효율적으로 계산하는 알고리즘적 기여로 보는 것이 적절하다. 제공된 자료에는 특정 모델의 정확도, 하드웨어 처리량, 실제 배포 환경에서의 속도 향상 수치가 포함되어 있지 않다. 따라서 이를 곧바로 엔드투엔드 추론 성능의 개선으로 해석해서는 안 된다.

그럼에도 이 작업의 의미는 분명하다. 행렬을 벡터로 펼치면 문제를 기존 틀에 쉽게 맞출 수 있지만, 행렬이 가진 2차원 의존 구조가 가려질 수 있다. GPTQ-2D는 이 구조를 활용하면 동일한 수학적 목표를 더 낮은 복잡도로 달성할 수 있음을 보여준다. 모델 양자화, 수치 선형대수, 추론 최적화 분야에서는 이러한 구조적 재구성이 실제 알고리즘 설계의 중요한 출발점이 될 수 있다.

출처: Hugging Face Daily Papers