TikTok, 크리에이터용 AI 초상 도용 탐지 도구 테스트

도입

생성형 AI 영상과 얼굴 합성 기술이 빠르게 확산되면서, 온라인 크리에이터들은 자신의 얼굴이나 이미지가 동의 없이 사용될 수 있다는 새로운 위험에 직면하고 있다. The Verge에 따르면 TikTok은 이러한 문제에 대응하기 위해 AI가 생성한 콘텐츠 중 크리에이터의 초상을 무단으로 사용했을 가능성이 있는 항목을 찾아주는 도구를 테스트하고 있다.

이 기능은 아직 전체 사용자에게 공개된 것은 아니며, 미국의 “일부” 크리에이터를 대상으로 시험 운영 중이다. TikTok 미국 대변인 Zachary Kizer가 The Verge에 이를 확인했으며, 소셜미디어 컨설턴트 Matt Navarra도 해당 기능을 발견했다. YouTube 역시 유사한 도구를 개발해 왔고, 최근에는 모든 성인 사용자에게 관련 기능을 제공하기 시작했다.

핵심 내용

• 선택형 기능: 테스트 대상 크리에이터가 직접 사용을 선택해야 TikTok이 AI 초상 사용 가능성을 스캔한다.
• 신원 확인 필요: 사용자는 Jumio를 통해 실시간 셀피 스캔과 신분증 확인 절차를 거쳐야 한다.
• 데이터 사용 제한 강조: TikTok은 신분증 문서를 보관하지 않으며, 얼굴 정보는 초상 매칭과 잠재적 무단 사용 식별에만 사용된다고 설명했다.
• 검토와 신고 절차 제공: 시스템이 의심 콘텐츠를 찾으면 크리에이터가 이를 확인하고 관련 게시물이나 계정을 신고할 수 있다.
• 플랫폼 책임 확대: AI 사칭과 딥페이크 문제는 이제 단순한 콘텐츠 신고를 넘어, 신원 보호와 권리 관리의 영역으로 확장되고 있다.

의미와 영향

크리에이터에게 초상 도용은 단순한 불쾌감의 문제가 아니다. 그럴듯하게 만들어진 AI 영상은 평판을 훼손하거나, 팬들을 혼란스럽게 만들거나, 사기성 홍보에 악용될 수 있다. 특히 얼굴과 개인 브랜드가 수익 활동의 핵심인 크리에이터에게는 실제 피해로 이어질 가능성이 크다. 지금까지는 본인이나 팬이 문제 콘텐츠를 찾아낸 뒤 신고하는 방식에 의존하는 경우가 많았다. 플랫폼이 의심 사례를 먼저 제시한다면 발견과 대응의 부담을 줄일 수 있다.

다만 이 방식은 개인정보 보호라는 민감한 과제도 함께 안고 있다. 초상 도용을 탐지하려면 플랫폼이 신원 정보와 얼굴 정보를 처리해야 하기 때문이다. TikTok은 신분증 문서를 보관하지 않고 얼굴 정보의 사용 목적을 제한한다고 밝혔지만, 이용자 입장에서는 매칭 정확도, 오탐 처리, 데이터 관리의 투명성이 여전히 중요한 판단 기준이 될 수밖에 없다.

이번 테스트는 생성형 AI 시대의 콘텐츠 플랫폼이 어떤 방향으로 변하고 있는지를 보여준다. 과거의 moderation은 주로 게시물이 규칙을 위반했는지를 판단하는 데 집중했다. 하지만 AI 초상 문제에서는 “이 콘텐츠가 실제 인물의 동의를 받았는가”라는 질문이 추가된다. 이는 기술적 탐지뿐 아니라, 본인 확인, 권리 주장, 신고 처리 절차가 함께 작동해야 하는 문제다.

TikTok의 도구는 아직 제한된 테스트 단계이며, 정식 출시 시점은 공개되지 않았다. 그러나 AI 딥페이크 제작이 더 쉬워지는 상황에서, 크리에이터가 자신의 디지털 정체성을 관리할 수 있도록 돕는 기능은 주요 플랫폼의 핵심 안전 장치로 자리 잡을 가능성이 크다.

출처: The Verge AI