Meta、家族情報を尋ねたAIの提案プロンプトを変更へ

はじめに

Metaは、AIアシスタントが表示する推奨プロンプトの仕組みを変更します。きっかけは、Instagram利用者のKalie Robins氏が投稿した動画です。氏によると、子どもと車内で歌っている動画をFacebookにも共有したところ、動画の下に「車に乗っている子どもは誰か」といった趣旨の質問がMeta AIから提案されました。利用者が最初に子どもの身元を尋ねたわけではなく、AI側が質問の方向を示した点が問題視されました。

Robins氏は、そのプロンプトを選択すると、過去の投稿や親族の投稿をもとに娘たちに関する情報がまとめられ、年齢や家族が住んでいる場所についての追加質問も表示されたと説明しています。さらに、何年も前に削除したと考えていた娘の写真まで表示されたと主張しました。

主なポイント

• AIがセンシティブな話題を先に提示した。 問題は単なる質問への回答ではなく、子どもの身元確認や家族情報の探索をAIが促したことです。
• Metaはアクセス権限の範囲内だと説明した。 広報担当者は、Meta AIが返す内容は質問者がすでに閲覧できる情報に限られ、見られない投稿は回答に使われないと説明しました。今回の情報は、動画内で子どもの名前に触れた部分や、閲覧可能な親族の投稿などから得た可能性があるとしています。
• 閲覧できる情報でも、再構成が適切とは限らない。 個々の投稿が見える状態でも、AIがそれらを結び付け、子どもの年齢や居住地を尋ねる形で再提示すれば、利用者に監視されているような印象を与えます。
• Metaは修正を表明した。 同社は、このような個人的な質問を提示すべきではなかったと認め、個人に関するプロンプトが提案される問題を修正したと述べています。

意味と影響

Meta AIはFacebook、Instagram、WhatsApp、Messengerに組み込まれ、質問への回答、文章作成、画像生成などを担っています。複数のサービスにまたがってAIが文脈を扱える一方、利用者が別々の投稿として見ていた情報が、AIによって一つの人物像や家族情報として結び付けられる可能性も高まります。

今回の問題は、AIの安全性を「誰が投稿を見られるか」だけで判断できないことを示しています。システムが権限内の情報だけを使っていたとしても、子どもの身元、年齢、居住地といった情報を積極的に関連付ければ、プライバシー上の負担を生みます。重要なのは取得の可否だけでなく、AIが何を推奨し、どの関係を強調するかです。

Metaは今後、推奨プロンプトの審査基準、古い投稿の関連付け方、利用者がAIによる再構成を管理する方法を説明する必要があります。ソーシャルプラットフォームにとって、「利用者が見られる」は最低限の条件にすぎず、「AIが積極的に取り上げてよい」ことを意味しません。

出典：The Verge AI