배경
지도 미세조정(SFT)은 비디오 대규모 언어 모델(VideoLLM)이 영상에 대해 추론하는 능력을 높이는 데 쓰입니다. 하지만 정확도가 올랐다고 해서 모델이 영상을 더 잘 이해하게 됐다고 단정할 수는 없습니다. 모델이 학습 데이터에서 반복되는 문장 패턴을 익혀, 영상 정보를 충분히 보지 않고 답을 짐작할 수도 있기 때문입니다. 이런 지름길은 학습 데이터와 비슷한 환경에서는 잘 드러나지 않지만, 데이터 분포가 달라지면 영상 증거를 활용하는 이점을 떨어뜨릴 수 있습니다.
논문이 제안한 VETO(Video-Evidence Training via Orthogonal projection)는 모든 문제 사례를 미리 찾아 제거하기보다 미세조정 중 파라미터 업데이트에 개입합니다. 목표는 SFT로 얻은 성능 향상을 유지하면서 텍스트만으로 답을 내는 경향을 억제하는 것입니다.
핵심 내용
- 데이터 수준에서 지름길을 정의하기 어렵습니다. 논문 요약에 따르면 텍스트 규칙성에 의존하는 현상은 학습 에폭 수, 데이터 규모, 모델 백본과 관계없이 나타납니다. 따라서 학습 분포에서 정확도가 높아졌다는 사실만으로 모델이 영상에 근거해 답하는지 판단하기 어렵습니다.
- 업데이트 방향을 제한합니다. VETO는 먼저 기반 모델의 활성화에서 텍스트만 입력했을 때 차지하는 부분공간을 보정합니다. 그런 다음 미세조정 업데이트를 해당 부분공간의 직교 여공간으로 투영합니다. 어떤 문장 패턴이 지름길인지 일일이 지정하지 않고, 텍스트 단독 표현과 관련된 방향으로 업데이트가 쌓이는 것을 제한하는 접근입니다.
- 분포 변화 상황에서도 평가합니다. 저자들은 7개 VideoLLM에서 VETO가 학습 분포 내 SFT의 이점을 유지하면서 지름길을 억제했다고 보고합니다. 분포가 달라지는 6개 벤치마크에서는 일반 SFT보다 나은 결과를 보였고, 답변이 지름길이 아니라 전체 입력을 근거로 했다고 설명합니다. 제공된 자료에는 벤치마크명, 구체적인 점수, 개선 폭은 포함돼 있지 않습니다.
의미와 남은 과제
이 연구가 강조하는 점은 과제 수행 능력의 향상과 데이터 패턴에 대한 의존이 미세조정 중 함께 일어날 수 있다는 것입니다. 질문의 표현이나 텍스트의 동시 등장 패턴만으로 답을 맞힐 수 있다면, 익숙한 평가 환경의 점수는 실제 영상 이해 능력을 과대평가할 수 있습니다. VETO는 지름길의 내용을 완전히 규정하는 대신, 텍스트 단독 입력과 연관된 표현 공간을 이용해 업데이트를 제어하는 학습 단계의 방법을 제시합니다.
다만 현재 제공된 내용이 뒷받침하는 것은 실험한 모델과 벤치마크에서의 결과입니다. 모든 영상 과제에서 지름길을 없앤다는 뜻은 아닙니다. 부분공간 보정 방식, 계산 비용, 벤치마크별 결과와 제거 실험도 자료에 제시되지 않았습니다. 재현성과 실제 적용 가능성을 판단하려면 이런 세부 정보가 필요합니다. 연구 코드는 공개돼 있어 후속 검증이 가능합니다.
댓글
로그인 상태 확인 중…
댓글 불러오는 중…