TikTok、AIによる肖像の無断利用を検出するツールをテスト

導入

生成AIによる動画作成や顔の再現技術が身近になるにつれ、クリエイターにとって「自分の顔やイメージが無断で使われる」リスクが現実的な問題になっている。The Vergeによると、TikTokはこの課題に対応するため、AI生成コンテンツの中からクリエイター本人の肖像を使っている可能性があるものを検出するツールをテストしている。

この機能は現時点では全面提供ではなく、米国の「一部」クリエイターを対象とした試験導入だ。TikTok USの広報担当者Zachary KizerがThe Vergeに認めており、ソーシャルメディアコンサルタントのMatt Navarraも同機能を発見している。YouTubeも同様のツールに取り組んでおり、最近すべての成人ユーザーに提供を広げている。

主要ポイント

• 任意参加型の機能：対象となるクリエイターが自ら有効化した場合に、TikTokがAIによる肖像利用の可能性をスキャンする。
• 本人確認が前提：利用者はJumioを通じて、リアルタイムのセルフィースキャンとID確認を行う必要がある。
• データ利用の範囲を限定：TikTokはID書類を保持せず、顔情報は肖像照合と潜在的な無断利用の検出にのみ使うとしている。
• 検出後は確認と報告が可能：システムが見つけた候補をクリエイターが確認し、問題がある投稿やアカウントをTikTokに報告できる。
• 業界全体の課題：AIによるなりすましやディープフェイクは、単なるコンテンツ管理ではなく、本人性と権利保護の問題になっている。

意義と影響

クリエイターにとって、肖像の無断利用は評判の毀損や詐欺的な宣伝への悪用につながり得る。特に顔や個人ブランドそのものが収益の基盤になっている場合、偽のAI動画やなりすましアカウントは大きな損害をもたらす可能性がある。これまでは、本人やファンが問題の投稿を見つけて通報するという受け身の対応になりがちだった。プラットフォーム側が候補を自動的に提示できれば、発見から報告までの負担は軽くなる。

一方で、この仕組みはプライバシーとのバランスも問われる。肖像を守るためには、本人確認や顔情報の処理が不可欠になる。TikTokはID書類を保持しないこと、顔情報の利用目的を限定することを説明しているが、利用者が安心して使うには、照合精度、誤検出時の扱い、データ管理の透明性が重要になる。

今回のテストは、AI時代のプラットフォーム運営が新しい段階に入っていることを示している。従来のモデレーションは、投稿内容がルールに違反しているかを判断するものだった。しかしAIによる肖像利用では、「その人物が同意しているのか」という別の判断軸が必要になる。TikTokの試みは、クリエイターに自分のデジタルな姿を管理するための手段を与える第一歩といえる。

現時点で正式展開の時期は明らかにされていないが、ディープフェイクがより簡単に作られるようになる中、こうした検出・報告機能は主要プラットフォームにとって重要な安全対策になっていくだろう。

出典：The Verge AI