학습은 흔적을 남긴다: 잔차 가중치로 언어 모델 계보 검증

배경

오픈 웨이트 언어 모델은 공개된 뒤에도 여러 번 변형된다. 미세조정, LoRA 병합, 가지치기, 양자화, 다른 모델과의 병합이 이어지면서 하나의 체크포인트에서 수많은 파생 버전이 만들어진다. 이런 과정이 모델 카드와 학습 기록에 항상 충실하게 남는 것은 아니다. 결과적으로 공개 모델의 성능뿐 아니라, 실제로 어떤 모델에서 파생됐는지도 확인하기 어려워진다.

「Training Leaves Traces」는 이 문제를 데이터 없는 화이트박스 계보 검증 문제로 다룬다. 질문은 간단하다. 학습 데이터, 프롬프트, 훈련 로그를 사용하지 않고, 호환 가능한 두 체크포인트의 가중치만 살펴 공통 조상을 가졌는지 판단할 수 있을까?

공유 구조와 계보를 구분하기

잔차 네트워크의 분기 곱에는 모델의 정체성과 정렬된 공통 성분이 나타날 수 있다. 하지만 이 성분은 같은 계보가 아닌 모델에도 공유될 수 있다. 따라서 이를 그대로 계보의 증거로 사용하면, 아키텍처나 모델 정체성에서 비롯된 공통점을 실제 학습 상속으로 잘못 판단할 위험이 있다.

제안된 방식은 이 문제를 분리해서 처리한다.

• 잔차 관련 곱에서 공유된 정체성 정렬 성분을 제거한다.
• 여러 잔차 블록에 남아 있는 체크포인트 고유 구조를 비교한다.
• 독립 체크포인트를 기준으로 결과를 보정해 대칭적인 계보 점수를 계산한다.

핵심은 모델의 출력이 얼마나 비슷한지가 아니라, 학습 과정이 가중치에 남긴 구조적 흔적을 비교하는 데 있다. 따라서 서로 비슷하게 행동하지만 독립적으로 만들어진 모델과, 실제로 한 모델에서 파생된 모델을 구분할 여지가 생긴다.

실험에서 확인된 점

잔차 MLP와 GPT-2 벤치마크에서 이 점수는 미세조정, LoRA 병합, 가지치기, 양자화로 생성된 후손 모델을 독립 모델 및 증류 모델과 분리했다. 해당 실험 설정에서는 AUROC 1.0이 보고됐다. 다만 이 수치는 사용된 벤치마크와 조건에서의 결과이며, 모든 아키텍처와 변환 방식에 대한 보편적 보장을 의미하지는 않는다.

연구진은 모델의 기능을 가능한 한 유지하면서 체크포인트를 변형하는 ‘세탁’ 실험도 수행했다. 이 과정에서 일부 기존 가중치 공간 기준선은 판별 여유를 잃거나 실패했지만, 제안된 점수는 변하지 않았다. GPT-2에서는 가장 가까운 견고한 기준선보다 76배 빠르게 실행됐다. 투영 페어링 신호는 여섯 개의 언어 모델 계열과 그 밖의 모델에서도 관찰됐으며, 공개 LLaMA-2 체크포인트 사례에서는 관련된 3개와 무관한 7개를 정확히 식별했다.

의미와 한계

이 방법은 오픈 모델 거버넌스에 가중치 수준의 증거를 추가할 수 있다. 저장소 관리자는 비공개 학습 데이터나 재훈련 없이 파생 모델의 계보 주장을 점검하고, 버전 간 상속 관계를 조사할 수 있다. 행동 평가가 모델의 기능을 측정한다면, 이 접근법은 가중치가 어디에서 왔는지를 보완적으로 살핀다.

그러나 이것이 완전한 출처 복원 시스템은 아니다. 호환 가능한 체크포인트와 잔차 구조를 전제로 하며, 독립 모델을 이용한 보정에도 의존한다. 전체 변환 이력을 재구성하거나 서명 기록을 대체하지도 않는다. 실제 배포 환경에서는 모델 카드, 학습 로그, 암호학적 서명과 함께 사용해야 한다. 그럼에도 학습 과정이 남긴 구조를 활용해 공개 모델의 계보를 검증하려는 방향은, 점점 복잡해지는 모델 생태계에서 유용한 감사 도구가 될 수 있다.

출처: Hugging Face Daily Papers