Instagram、未開示のAI人物プロフィールを制限へ

Instagramは、AIで作られた人物をプロフィールの主体として使うアカウントに対する透明性ルールを強化する。AIインフルエンサーが各種ソーシャルメディアで増えるなか、実在の人物だと思っていたアカウントが、後から完全にAI生成だったと分かることへの不満が高まっているためだ。

同社は、既存の「AIクリエイター」ラベルを「AI生成プロフィール」に変更する。この名称は、プロフィールに登場する人物がAIで生成された、あるいは大幅にAIを使って作られた存在であることを、利用者により理解しやすく伝えることを意図している。

変更のポイント

今回の方針で重要なのは、AI人物を使うこと自体を禁止するのではなく、開示の有無をアカウントの配信に結び付ける点だ。

• AI生成人物をプロフィールの主体にしているのに適切なラベルを付けない場合、リーチが低下する可能性がある。
• 新しいラベルを使ったアカウントは、AI人物を掲載しているという理由だけで罰せられない。
• 写真の編集、キャプションの推敲、グラフィック制作など、部分的なAI利用だけでは、このラベルは必要ない。

つまりInstagramは、AIを制作補助として使うケースと、アカウントの人物そのものをAIで構成するケースを区別している。前者は一般的なクリエイティブ作業の一部になりつつあるが、後者は利用者がアカウントの実在性を判断する前提を変えるからだ。

背景にある懸念

Instagramによれば、利用者からは「人間のプロフィールに見えたのに、後になって人物が完全なAIだと分かった」という声が寄せられていた。開示がなければ、利用者はそのアカウントが架空キャラクターなのか、広告目的なのか、実在の個人による発信なのかを判断しにくい。

AI人物をめぐる事例も相次いでいる。Wiredは今年、同性愛者向け出会い系アプリGooseを宣伝していた、AI生成とみられる男性インフルエンサーのネットワークを調査した。一部のアカウントは、ダイレクトメッセージで潜在的な利用者に接触し、登録を促していたと報じられている。

健康・ウェルネス分野も特に敏感だ。The New York Timesは7月、サプリメントを宣伝したり健康上の主張を発信したりする、AI生成の医師、ヒーラー、ウェルネス人物がソーシャルメディア上に多数存在すると報じた。人物の見た目がリアルであるほど、広告や根拠の不確かな助言に権威があるように映る可能性がある。

プラットフォーム運営への意味

今回のラベルは、単なる表示上の注意書きではなく、アカウントの成長に関わる仕組みになり得る。クリエイターは、AI人物を使う場合、ユーザーやプラットフォームに発見されてから対応するのではなく、最初から開示することが求められる。

一方で、ラベルだけでAIコンテンツに関する問題が解決するわけではない。合成された人物であることは示せても、健康情報の正しさ、広告関係、他人の肖像の利用まで自動的に検証するものではないからだ。Instagramの変更は、AI人物を使うプロフィールについて、利用者が接触する前に最低限の事実を知るための基盤づくりと位置付けられる。

今回の発表は、MetaがAI機能と安全対策のバランスを見直している流れにも重なる。同社は以前、他人の肖像を使った画像生成機能をめぐり反発を受け、その機能を削除した。また、子どもや青少年への影響をめぐる米国各州との和解では、FacebookとInstagramに若年利用者向けの利用時間や夜間モードなどの制限を導入する予定だ。

出典：TechCrunch AI