Meta 광고에 AI ‘탈의’ 앱 등장…여성 정치인 노린 딥페이크 논란

들어가며

Meta 플랫폼에서 Kromix라는 AI 이미지·영상 서비스의 광고가 집행된 사실이 드러났다. Kromix는 스스로를 ‘AI 이미지 스타일러’라고 소개했지만, 광고에서는 ‘제한 없음’에 가까운 생성 경험을 강조하며 실제 인물을 성적 장면에 넣을 수 있는 듯한 기능을 홍보했다. 한 영상 광고에는 미국의 유명 여성 정치인과 매우 흡사한 여성이 미국 국기 앞에 등장한 뒤, 같은 얼굴을 가진 여성이 포르노 영상에 나오는 장면이 담겼다. 해당 광고는 언론과 연구자들이 Meta에 문의한 뒤 삭제됐다.

이번 사례는 생성형 AI의 악용이 익명 사이트에만 머무르지 않고, 대형 플랫폼의 광고 시스템과 앱 유통망까지 파고들고 있음을 보여준다.

핵심 내용

• Kromix는 유료 이용자에게 사진 업로드를 유도하고, ‘침실 강간’과 같은 유해한 시나리오를 포함한 기능을 제공했다.
• 광고는 남성 이용자만을 대상으로 했으며 ‘차세대 AI의 마법을 해방하라’는 문구를 사용했다. 일부 영상은 해변, 산, 폭포 같은 이미지를 표지로 사용해 뒤에 이어지는 성적 콘텐츠를 감추려 했다.
• Meta 광고 라이브러리에 따르면 관련 계정은 모두 32개의 광고를 운영했다. 광고별 집행 기간은 5~46시간이었고, 대부분의 노출 수는 10회 이하였다.
• Meta는 탈의 서비스를 홍보하는 광고를 대규모로 삭제했으며 탐지 기술을 강화하고 있다고 밝혔다. 다만 어떤 시스템도 완벽할 수 없다고 인정했다.
• Apple은 초기 심사 이후 금지된 콘텐츠와 기능이 추가된 것으로 보인다며 Kromix를 App Store에서 삭제했다.

광고 심사를 통과한 이유

Meta의 광고 정책은 나체, 성행위, 성적 암시가 포함된 광고를 금지하며, 탈의 앱과 ‘AI 키스’ 앱의 홍보도 허용하지 않는다. 그럼에도 광고 심사는 주로 자동화 도구에 의존한다. 광고주는 새로 만든 페이지, 짧은 시험 캠페인, 모호한 문구, 무해한 썸네일을 조합해 탐지를 피할 수 있다. 이번 광고를 운영한 페이지 역시 만들어진 지 오래되지 않았고 팔로워도 없었다.

또 다른 문제는 위험한 기능이 광고 자체가 아니라 연결된 앱 안에서 작동한다는 점이다. 플랫폼이 광고의 문구와 화면만 확인하면, 이용자가 사진을 업로드한 뒤 어떤 결과물을 만들 수 있는지 놓칠 수 있다. 앞서 연구자들은 Meta에서 미성년자를 성적으로 묘사하거나 성적 상황에 얼굴을 합성하는 기능을 홍보한 광고도 발견했다.

의미와 영향

비동의 성적 딥페이크는 피해자의 명예, 직업, 사생활과 안전을 위협한다. 여성 정치인은 공식 초상화와 기자회견 영상이 널리 공개되어 있어 공격 대상이 되기 쉽다. 누구나 사용할 수 있는 생성 도구가 확산되면 평범한 공개 자료가 성적 괴롭힘이나 정치적 비방을 위한 원료로 바뀔 수 있다.

플랫폼의 대응은 개별 광고를 삭제하는 데 그쳐서는 안 된다. 광고뿐 아니라 앱 기능, 개발자 계정, 업데이트, 결제와 유통 경로를 함께 조사해야 한다. Meta는 삭제된 앱과 개발자 정보를 다른 기업과 공유한다고 밝혔지만, 외부 폭로가 있어야 조치하는 구조만으로는 충분하지 않다. 앞으로의 과제는 노골적인 이미지를 찾는 것을 넘어, 유해한 서비스 전체와 그 서비스가 사용하는 회피 전술을 식별하는 것이다.

출처：Ars Technica AI