Meta 광고 심사가 AI ‘나체화’ 앱을 막지 못한 이유

들어가며

생성형 AI는 현실과 구분하기 어려운 성적 합성 이미지와 영상을 만드는 장벽을 낮췄다. 동시에 이런 서비스는 일반적인 소셜미디어 광고를 통해 이용자에게 도달한다. Tech Transparency Project(TTP)와 Wired의 조사에 따르면 페이스북과 인스타그램에는 이른바 AI ‘나체화’ 앱을 홍보하는 광고가 다수 게재됐고, 일부 광고는 실제 아동의 공개 사진을 노골적인 영상으로 바꿨다.

핵심 내용

• TTP는 올해 Meta 플랫폼에서 아동 성적 학대물을 포함한 광고 332개를 확인했다. 대다수는 중국에서 제작됐거나 중국과 연계된 AI 앱을 홍보했다.
• 조사팀은 유럽 왕실의 어린 구성원, 14세 인스타그램 이용자, 스톡 사진 속 소녀 등 광고에 등장한 여러 인물을 온라인에서 실제로 확인되는 아동 사진과 대조했다.
• 광고에는 ‘제한이 없다’, ‘등장인물은 실제 사람’이라는 식의 문구가 사용됐다. Wired는 성인을 대상으로 한 관련 광고도 수백 개 발견했으며, 당사자 동의가 없었을 가능성을 제기했다.
• TTP가 300개가 넘는 광고를 신고한 뒤 Meta는 광고 라이브러리에서 약 절반을 신속하게 삭제했다. 그러나 일부 광고는 처음부터 아동 착취 정책 위반으로 표시되지 않았고, 신고 후에도 며칠간 계속 노출됐다.
• TTP는 해당 광고가 유럽연합에서 2만9000명 이상, 영국에서 6800명에게 도달했으며 약 80%가 미국에서 집행됐다고 밝혔다. Meta는 신고된 광고의 평균 노출이 200회 미만이고 총 광고비가 5000달러 이하라고 설명했지만, TTP는 실제 규모가 축소 집계됐을 수 있다고 지적했다.

의미와 영향

핵심 쟁점은 나체화 앱이 위험한지 여부에만 있지 않다. 명백히 위험한 광고를 이용자에게 보여주기 전에 플랫폼이 차단할 수 있는지가 문제다. Meta는 나체화 앱과 아동 착취를 용납하지 않으며, 일부 광고가 짧거나 흐릿한 영상 때문에 탐지를 피했다고 설명했다. 그러나 TTP는 같은 이미지와 문구를 쓴 광고가 서로 다르게 처리됐고, 일부 신고는 검토까지 최소 일주일이 걸렸다고 밝혔다.

이번 사례는 세 가지 취약점을 드러낸다. 공개 사진이 짧은 시간 안에 유해한 합성물로 재사용될 수 있다는 점, 자동 탐지·인력 검토·광고주 인증이 하나의 통합된 방어 체계로 작동하지 않는다는 점, 그리고 광고 수익을 얻는 플랫폼에서 신속한 차단과 매출 사이에 긴장이 생긴다는 점이다.

TTP는 일부 캠페인이 중국 광고 재판매 업체 및 허위로 보이는 페이지와 연관됐다고도 설명했다. 미국 의원과 주 당국, 호주 eSafety 규제기관은 Meta에 추가 설명을 요구하고 있다. 플랫폼에는 게시 후 삭제를 넘어 사전 심사, 반복 광고 탐지, 증거 보존, 관련 기관에 대한 신속한 신고가 요구될 가능성이 커지고 있다.

출처: Ars Technica AI