Transformer 깊이를 ‘랭크 보존’ 관점에서 다시 보기

도입

Transformer는 매우 깊게 쌓을 수 있지만, 잔차 연결의 비중, 정규화 위치, 피드포워드 층의 폭 같은 세부 설계에 민감하다. 논문 “Transforming Rank: How Architecture Navigates the Spectral Pathologies of Depth”는 이 현상을 다른 각도에서 설명한다. 핵심은 깊이를 지나며 그래디언트의 크기만 변하는 것이 아니라, 독립적인 방향의 수, 즉 랭크가 줄어들 수 있다는 점이다.

저자는 Transformer 피드포워드 블록에 초점을 맞추고, 초기화 단계에서 입력-출력 야코비안과 분기 야코비안의 랭크가 깊이에 따라 어떻게 유지되거나 무너지는지 분석한다. 이 관점에서는 잔차 연결, 정규화, 폭 확장이 단순히 수치적 안정성을 위한 장치가 아니라, 깊은 네트워크 안에서 얼마나 많은 방향 정보를 보존할지를 결정하는 설계 요소가 된다.

핵심 내용

• 잔차 연결은 랭크 손실을 우회한다. 행렬 곱과 비선형 활성화는 표현력을 만드는 동시에 랭크를 줄일 수 있다. 잔차 경로는 그래디언트가 이러한 랭크 감소 분기를 우회하도록 해 더 많은 방향을 남긴다. 다만 스킵 경로가 지나치게 강하면 깊은 합성 구조라기보다 여러 얕은 변환의 앙상블처럼 동작할 수 있다.

• 정규화 위치는 분기와 스킵의 비율을 조절한다. Pre-Norm과 Post-Norm의 차이는 경험적 안정성 차이를 넘어, 깊이가 증가할 때 잔차 분기와 스킵 경로의 상대적 스케일을 어떻게 설정하느냐의 문제로 해석된다. 논문은 Post-Norm에서 랭크 붕괴가 나타나기 쉽고 Pre-Norm에서는 랭크가 plateau에 도달하기 쉬운 이유를 이 틀에서 설명한다.

• 두 개의 선형 행렬 구조에는 보존 효과가 있다. Transformer 피드포워드 층은 보통 차원을 확장한 뒤 활성화를 적용하고 다시 축소한다. 논문은 두 번째 행렬이 비중심화 활성화에서 생기는 일관된 평균 스파이크를 탈상관화해, 잔차 표현이 소수의 방향으로 무너지는 것을 막는다고 설명한다.

• 중간 폭 확장은 분기 야코비안의 랭크를 지킨다. 활성화 함수가 일부 방향을 줄인다면, 더 넓은 공간에서 활성화를 적용하는 편이 원래 차원을 다시 span할 충분한 방향을 남기기 쉽다. 저자는 이 폭 조건을 Marchenko–Pastur 법칙과 연결한다.

• 초기 랭크는 학습 가능성과 관련된다. 논문은 입력-출력 야코비안의 초기화 시점 랭크가 CIFAR-10에서 어떤 네트워크가 학습되는지를 예측하는 데 관련된다고 보고한다.

의미와 영향

이 논문의 의미는 새로운 Transformer 블록을 제안하는 데 있다기보다, 기존 구조의 역할을 더 통합적으로 해석한다는 데 있다. 잔차 연결, 정규화, 폭 확장은 흔히 그래디언트나 활성값의 크기를 안정화하는 도구로 설명된다. 하지만 이 논문은 이들이 깊은 네트워크에서 독립적인 방향을 보존하고 랭크 붕괴를 피하기 위한 장치이기도 하다고 본다.

대규모 모델 아키텍처 연구에서는 이 관점이 왜 깊은 Transformer에서 Pre-Norm이 널리 쓰이는지, 왜 피드포워드 층이 중간 차원을 확장하는지, 왜 단순히 층을 늘리는 것만으로는 충분하지 않은지를 이해하는 데 도움을 줄 수 있다. 결국 설계자는 랭크 붕괴 방지, 깊은 합성 능력, 파라미터 수 사이의 균형을 다뤄야 한다.

물론 분석은 주로 초기화 시점과 피드포워드 블록을 대상으로 하므로, 전체 대규모 언어 모델 학습이나 다양한 활성화 함수, 실제 대규모 데이터 환경에 얼마나 일반화되는지는 추가 검증이 필요하다. 그럼에도 “깊이를 통과하는 랭크”라는 관점은 Transformer 구조를 이해하는 유용한 개념적 도구를 제공한다.

출처: arXiv