Meta広告審査がAI「ヌード化」アプリを止められなかった理由

導入

生成AIは、現実に近い性的な合成画像や動画を作るハードルを下げた。その一方で、そうしたサービスは一般的なソーシャルプラットフォームの広告を通じて利用者に届く。Tech Transparency Project（TTP）とWiredの調査によると、FacebookとInstagramには、いわゆるAI「ヌード化」アプリを宣伝する広告が多数掲載され、その一部は実在する子どもの公開写真を露骨な動画に加工していた。

調査で分かったこと

• TTPは今年、児童性的虐待素材を含む広告332件を確認した。大半は中国で開発された、または中国と関係するAIアプリを宣伝していた。
• 広告に登場する複数の人物は、欧州王室の若いメンバー、14歳のInstagram利用者、ストック写真の少女など、実際にネット上で確認できる子どもと照合された。
• 「制限はない」「登場人物は実在する」といった文言がクリックを誘導していた。Wiredは、成人を対象にした関連広告も数百件確認し、本人の同意がない可能性を指摘した。
• TTPが300件超を通報した後、Metaは広告ライブラリーから約半数を速やかに削除した。しかし、一部は当初、児童搾取ポリシー違反として記録されず、通報後も数日間掲載されていた。
• TTPによると、広告はEUで2万9000人超、英国で6800人に届き、約8割が米国で配信された。Metaは対象広告の平均表示回数が200回未満で、広告費は合計5000ドル未満だと説明したが、TTPは件数が過少集計されている可能性を示した。

意味と影響

問題は、ヌード化アプリが危険かどうかだけではない。明らかに高リスクな広告を、利用者に表示される前に止められるかが問われている。Metaは、ヌード化アプリや児童搾取を容認しないと説明し、一部の広告は動画が短い、またはぼかされていたため検知を逃れたとした。しかしTTPは、同じ画像や文言を使う広告への判断が異なり、報告の審査に少なくとも1週間かかった例もあると指摘した。

今回の事例は、三つの弱点を示す。公開写真が短時間で有害な合成素材に転用されること、自動検知・人による確認・広告主の本人確認が一体の仕組みとして機能していないこと、そして広告収入を得るプラットフォームには迅速な停止と収益の間に緊張関係があることだ。

TTPは、中国の広告再販業者や、偽装されたように見えるページとの関係も指摘した。米国の議員や州当局、オーストラリアのeSafety規制当局が説明を求めている。今後、プラットフォームには掲載後の削除だけでなく、事前審査、類似広告の連鎖的な検出、証拠保存、関係機関への迅速な報告が求められる。

出典：Ars Technica AI