계속 진화하는 딥페이크 탐지: BMF의 동적 검출 시스템 평가

도입

딥페이크 탐지는 오래된 모순을 안고 있다. 많은 탐지기는 FaceForensics++ 같은 학술 벤치마크에서 거의 완벽한 점수를 내지만, 실제 인터넷 콘텐츠, 압축된 영상, 최신 생성 모델, 얼굴 보정 도구가 섞인 환경에서는 성능이 크게 떨어질 수 있다. 이번 arXiv 논문은 이 현상을 단순한 모델 튜닝 문제가 아니라, 한 번 훈련된 정적 탐지기가 계속 변하는 생성 기술을 상대해야 하는 구조적 문제로 본다.

논문이 제안한 BitMind Forensics(BMF)는 고정된 데이터셋에만 의존하지 않는다. BMF는 Bittensor SN34라는 공개 적대적 경쟁을 통해 훈련 분포를 지속적으로 새로고침하는 방식으로 설계됐다. 저자들은 날짜가 명시된 하나의 내보내기 버전을 대상으로 이미지, 일반 비디오, 인간 비디오 탐지 체크포인트를 평가했다.

핵심 내용

• 광범위한 공개 벤치마크: 평가는 총 19개 공개 데이터셋을 포함한다. FaceForensics++, Celeb-DF, DFDC, DFD, UADFV, DF40 같은 전통적인 얼굴 합성 데이터셋뿐 아니라 Sumsub, Deepfake-Eval-2024, WildRF, Community Forensics, AIGCDetectBench, GenImage, AI-GenBench, AIGIBench, RAID, GenVidBench, GenVideo-100K 등 실제 환경 및 AI 생성 미디어 벤치마크도 포함됐다.
• 현실 환경 강건성 강조: Sumsub 원본 이미지에서 BMF는 0.936 AUC를 기록했다. 140만 장 규모의 네 가지 조건 통합 평가에서는 0.872 AUC를 보였다. JPEG 압축과 다운스케일 조건에서는 각각 0.855, 0.799 AUC를 보고했으며, GPEN 향상 처리 후에는 0.996으로 올라갔다.
• 상용 및 오픈소스 탐지기와 비교: Deepfake-Eval-2024에서 BMF는 이미지 기준 0.915 AUC를 기록해 논문이 제시한 최고 상용 탐지기의 0.90과 비슷하거나 더 높은 수준을 보였다. 비디오에서는 0.822 AUC로 상용 탐지기의 0.79를 넘었고, 최고 오픈소스 탐지기로 제시된 0.56 및 0.63보다 크게 높았다.
• AI 생성 미디어 대응력: 21개 생성기로 구성된 AI 이미지 패널에서 BMF는 0.991 AUC를, GenVidBench에서는 0.918 AUC를 기록했다. DFDC와 Celeb-DF v2에서도 FF++ 기반 훈련 프런티어를 상회했다고 보고했으며, 해당 비교에는 데이터 오염 감사가 포함됐다고 설명한다.
• 시간에 따른 개선: 시간적 연구에서 여러 날짜의 내보내기 버전을 비교한 결과, 정적 기준 모델의 훈련에 없던 생성기 미디어에 대해 이미지 AUC는 0.842에서 0.902로, 비디오 AUC는 0.864에서 0.936으로 개선됐다.

의미와 영향

이 연구의 핵심은 딥페이크 탐지를 단일 모델 성능 경쟁이 아니라 지속적으로 갱신되는 보안 시스템으로 바라본다는 점이다. 확산 모델, 비디오 생성 모델, 얼굴 복원 도구, 후처리 파이프라인은 빠르게 바뀐다. 고정 데이터셋으로 훈련된 탐지기는 어제의 생성기가 남긴 흔적에 과적합될 위험이 있다.

BMF의 동적 접근은 새로운 공격, 새로운 압축 방식, 새로운 합성 미디어 패턴을 계속 학습 과정에 반영하려는 시도다. 이는 플랫폼 신뢰·안전, 신원 확인, 미디어 포렌식, 콘텐츠 검수 시스템에 실질적인 함의를 갖는다.

다만 논문은 신중하게 읽어야 한다. arXiv 프리프린트이므로 동료심사를 거친 최종 결론은 아니다. 저자들은 평가 도구를 공개했고, 출판 시점의 프로덕션 API가 평가된 동일 스냅샷을 제공한다고 밝혔지만, 외부 연구자의 독립 재현이 중요하다. 버전 관리, 벤치마크 투명성, 임계값 선택, 데이터 오염 감사가 장기 신뢰의 핵심이 될 것이다.

결국 BMF는 한 번 만들어지는 만능 감별기보다, 생성 미디어 생태계와 함께 진화하는 탐지 인프라가 더 현실적인 방향일 수 있음을 보여준다.

출처: arXiv