Verus-Insight, AI 생성 영상 탐지를 ‘판정’에서 ‘증거’로

들어가며

영상 생성 기술이 빠르게 발전하면서 합성 영상은 점점 더 자연스러워지고 있습니다. 과거처럼 얼굴의 형태가 무너지거나 움직임이 크게 어색한 사례만 찾는 방식으로는 충분하지 않습니다. 탐지 시스템은 사람이 알아차릴 수 있지만 모델에는 어려운 미세한 시각적·시간적 이상까지 다뤄야 합니다.

기존의 아티팩트 기반 탐지기는 생성 과정에서 생긴 흔적을 근거로 영상의 출처를 예측합니다. 그러나 분류 결과가 맞더라도 모델이 실제로 타당한 증거를 확인했다는 보장은 없습니다. 배경이나 데이터셋에 특화된 우연한 상관관계에 의존할 수 있고, 사람이 관찰할 수 있는 미묘한 흔적을 놓칠 수도 있습니다.

논문 ‘Verus-Insight: Towards Explainable Artifact Detection in AI-Generated Videos’는 이 문제를 해결하기 위해 아티팩트 탐지를 하나의 구조화된 증거 분석 과정으로 정의합니다.

핵심 내용

• 검사 계획: 먼저 영상에서 어떤 대상, 영역, 프레임 또는 시간 구간을 살펴봐야 하는지 결정합니다. 영상 전체를 단순히 분류하는 대신, 분석할 대상을 명시하는 단계입니다.
• 증거 검증: 선택한 내용에 실제로 생성 아티팩트가 존재하는지 확인합니다. 흐림, 움직임, 형태, 질감의 변화가 눈에 띈다고 해서 모두 생성의 증거인 것은 아니기 때문입니다.
• 증거 통합: 검증된 여러 단서를 결합해 영상 수준의 출처 판단을 만듭니다. 지역적인 관찰이 최종 결론을 어떻게 지지하는지 더 분명하게 표현할 수 있습니다.
• 인간 기준의 전 과정 감독: Verus-Insight는 사람이 지각할 수 있는 아티팩트에 기반한 감독 신호로 학습됩니다. 또한 점진적 능력 훈련을 통해 세밀한 아티팩트 분석과 영상 단위 탐지를 함께 강화합니다.
• Verus-Bench: 사람이 관찰할 수 있는 아티팩트에 대한 세밀한 주석을 포함한 벤치마크입니다. 최종적인 ‘진짜/생성’ 분류 정확도만이 아니라, 모델이 사람이 확인할 수 있는 근거를 찾아내는지도 평가합니다.

의미와 영향

이 접근의 핵심은 새로운 탐지기를 제안했다는 데만 있지 않습니다. AI 영상 탐지의 평가 기준을 결과 중심에서 증거 중심으로 확장했다는 점이 중요합니다. 콘텐츠 검수, 미디어 포렌식, 진위 확인과 같은 실제 환경에서는 확률이나 이진 라벨만으로 부족할 수 있습니다. 분석자는 모델이 어디를 확인했고, 어떤 이상을 발견했으며, 그 이상이 최종 결론을 어떻게 뒷받침하는지 알고 싶어 합니다.

세 능력을 분리하면 모델의 실패 원인도 더 쉽게 진단할 수 있습니다. 올바른 영역을 찾지 못했다면 검사 계획이 문제일 수 있습니다. 적절한 영역을 보았지만 정상적인 변화를 생성 흔적으로 오인했다면 증거 검증 능력이 부족한 것입니다. 여러 지역 단서는 타당하지만 최종 판단이 불안정하다면 증거 통합이 개선되어야 합니다.

제공된 자료에 따르면 Verus-Insight는 다양한 벤치마크에서 세밀한 아티팩트 분석과 영상 수준 탐지 모두에서 강한 성능을 보였으며, 사람이 지각한 생성 흔적을 더 잘 복원했습니다. 또한 관련 검사 대상을 근거 있는 아티팩트 증거로 연결하면서 근거 없는 아티팩트 주장을 늘리지 않는 특성도 분석됐습니다.

다만 제공된 자료에는 전체 실험표, 데이터 규모, 구체적인 성능 향상 수치가 포함되어 있지 않습니다. 따라서 모든 조건에서 기존 방법보다 우수하다고 단정해서는 안 됩니다. 그럼에도 생성 영상이 더 사실적으로 변할수록 탐지 시스템은 단순히 출처를 추측하는 데서 벗어나, 사람이 확인하고 검토할 수 있는 증거를 제시하는 방향으로 발전해야 합니다.

출처: Hugging Face Daily Papers