AI 딥페이크 사기 광고가 드러낸 메타의 플랫폼 안전 문제

들어가며

AI가 사람의 얼굴과 목소리를 복제하면서 온라인 사기는 단순한 허위 광고를 넘어, 유명인이 직접 추천하는 것처럼 보이는 영상으로 진화하고 있다. 투자자 마크 큐반은 자신이 294달러짜리 당뇨 치료제를 판매한다고 믿은 사람들로부터 매주 연락을 받는다고 말했다. 그의 설명에 따르면 해당 광고는 자신의 얼굴과 목소리를 AI로 재현했으며, 메타의 서비스에서 계속 노출됐다.

핵심 내용

• 가짜 유명인 추천의 설득력이 커졌다. 사기범은 유명인의 외모와 목소리, 신뢰도를 빌려 의료 상품이나 투자 상품을 홍보할 수 있다. 영상에 AI 생성물이라는 문구나 오락 목적이라는 면책 문구가 있어도, 이미 전달된 판매 메시지의 효과를 없애기는 어렵다.
• 내부 문서가 사업적 이해상충을 보여준다. 로이터 보도에 따르면 메타 내부 문서는 2024년 매출의 약 10%인 160억 달러가 사기 및 금지 상품과 관련된 광고에서 발생했을 가능성을 추정했다. 다른 문서는 이용자들이 하루 약 150억 건의 ‘고위험’ 광고에 노출됐다고 설명했으며, 2024년 말 해당 광고군의 연간 가치를 약 70억 달러로 평가했다.
• 자동 심사의 기준 아래에는 회색지대가 남는다. 문서에 따르면 메타의 시스템은 광고주가 사기를 벌일 가능성을 최소 95%로 판단해야 계정을 차단한다. 그보다 낮은 계정은 계속 광고를 집행하면서 비용을 늘려 노출을 유지할 수 있다.
• 메타는 자료 해석에 이의를 제기했다. 메타 대변인은 해당 문서가 회사의 사기 대응을 선택적으로 보여준다며, 매출 10% 추정치도 거칠고 지나치게 포괄적이라고 말했다. 동시에 최근 18개월 동안 사기 광고 관련 이용자 신고가 58% 줄었고, 2025년에 1억3400만 건이 넘는 사기 광고를 삭제했다고 설명했다.

의미와 영향

이번 논란은 몇 개의 가짜 영상에 국한되지 않는다. 핵심은 의심스럽지만 아직 삭제 기준에 이르지 않은 광고를 플랫폼이 어떻게 다룰 것인가다. 과거 사기 광고는 어색한 문구나 이미지로 구별할 수 있었지만, 생성 AI는 사람의 표정과 말투, 감정적 호소까지 낮은 비용으로 재현한다. 이용자가 화면만 보고 진위를 판단하기는 더 어려워졌다.

고령층 피해는 특히 크다. 미국 연방수사국(FBI)에 따르면 60세 이상 이용자가 2025년에 신고한 인터넷 범죄 피해액은 77억 달러였다. 투자 사기의 피해액이 가장 컸고, AI가 관련된 3,100건 이상의 신고에서는 3억5200만 달러가 넘는 손실이 보고됐다. 신고되지 않은 피해까지 포함하면 실제 규모는 더 클 수 있다.

플랫폼은 사후 삭제 건수만 늘리는 방식에서 벗어나야 한다. 광고주 신원 확인, 의료·금융 광고의 근거 검증, 반복적으로 변형된 광고를 함께 탐지하는 시스템이 필요하다. 이용자 역시 유명인이 추천하는 고수익 상품이나 치료법을 즉시 믿기보다 상품명과 ‘사기’를 함께 검색하고, 의심스러운 광고는 신속히 신고해야 한다.

AI는 사칭을 더 빠르고 저렴하게 만들었다. 메타의 대응은 삭제한 광고 수뿐 아니라, 차단 기준을 얼마나 투명하게 공개하고 이미 확인된 사기 패턴의 재등장을 얼마나 효과적으로 막는지로 평가받게 될 것이다.

출처: Hacker News