InstagramのAIラベルが実写を誤判定し、AI画像を見逃す理由

導入

Instagramの「AI Content」ラベルは、生成AIによって作られたり、大きく変更された画像を利用者が見分けるための仕組みです。しかし最近、ユーザーからは正反対の問題が報告されています。生成AIを使っていない写真にラベルが付く一方、実際にAIで生成した画像が表示を通過しているのです。

Instagramでは、今回が初めての混乱ではありません。2024年にも、生成AIによる小さなレタッチしか施していない写真が「Made by AI」と表示される問題が指摘されました。MetaはAIの使用量を反映できるよう仕組みを調整すると説明しましたが、具体的な検出方法は十分に公開されていません。

主なポイント

• 補助AIと生成AIが混同されている。 Canvaの背景除去や、軽微な汚れの修正を使った画像にラベルが付いたという報告があります。これらも機械学習を使う場合はありますが、文章から画像を作ったり、新しい要素を大規模に追加したりする生成AIとは性質が異なります。
• メタデータの扱いが一貫していない。 Canvaは、一部の補助機能が生成AIとして誤認識されていたと説明し、問題を修正したとしています。それでも背景除去後にラベルが付くという報告があり、ツールとInstagramの判定経路が安定していない可能性があります。
• AI生成画像も見逃される。 The Vergeのテストでは、Google Geminiで作成され、C2PAとSynthIDの信号を含む画像がInstagramでラベル付けされませんでした。テストで最も確実にラベルを発生させたのは、Meta自身の生成AIツールでした。
• 検出基準が不明確である。 Metaは過去にIPTCやC2PAのメタデータ、各社ツールに埋め込まれる業界標準の信号に言及しています。しかし、現在どの情報を読み取り、完全生成と部分的なAI編集をどう区別しているのかは明らかではありません。

意味と影響

AIラベルは単なる表示ではありません。写真家、ブランド、媒体、クリエイターが公開するコンテンツの信頼性に影響します。誤判定されれば本物の写真まで合成画像のように見え、見逃しが起きれば利用者は偽の画像を識別しにくくなります。両方の問題が同時に起きると、ラベルを確かな証拠として扱うことは難しくなります。

背景除去、被写体選択、不要物の除去など、AIは日常的な編集機能に組み込まれています。これらをすべて生成AIとして扱えばラベルの範囲が広がりすぎます。一方、メタデータだけに依存すれば、保存や投稿の過程で情報が欠落した場合に判定が崩れます。

Metaには、完全生成、生成AIによる変更、通常の補助的な編集を分けた説明が求められます。改善が進むまでは、Instagramのラベルを画像の出自に関する最終的な証明ではなく、プラットフォームによる参考表示として見るべきでしょう。

出典：The Verge AI