訴状が指摘、xAIはCSAMをGrokの学習に使用した可能性

概要

xAIは、児童性的虐待素材（CSAM）をGrokの学習に使った可能性があるとの訴えに直面しています。原告はJane Doeという仮名で、幼少期に作成された虐待画像をもとに、自分を描いたAI生成画像がGrokによって作られたと主張しています。さらに、元の画像と新たに生成された画像の双方がモデルの学習に使われた可能性があると訴えています。ただし、これは訴状に記された主張であり、裁判所による事実認定はまだありません。

主なポイント

• Doeは幼児期に被害を受け、関連画像は長年、児童保護団体などのハッシュデータベースで識別・追跡されてきたと説明しています。
• カナダの児童保護機関が、本人を描くAI生成CSAMを確認したとして通知したとされています。訴状には、加害者らが本人や他の既知の被害者を対象にした合成画像についてオンラインで話していたとの記述もあります。
• 原告側の弁護士は、既知のハッシュ値を持つ元画像がGrokの画像・動画生成機能の学習データに含まれた可能性を指摘しています。ただし、訴状の技術的説明は限定的で、xAIの利用が立証されたことを意味しません。
• より詳しく論じられているのはAI生成素材の扱いです。原告は、xAIの規約が公開X投稿やGrokの出力を原則として学習・改善に使うとしている一方、CSAM、同意のない私的画像、その他の性的コンテンツを明確に除外しているか不明確だと主張しています。
• Doeは、関連素材の破棄、CSAMなどの生成防止、同様の被害者を代表する集団への損害賠償を求めています。

意味と影響

問題は、モデルが違法画像を生成できるかだけではありません。違法な素材がデータ処理の流れに入った後、どのように検出・隔離・削除するかが問われています。元ファイルを削除しても、学習済みモデルから影響を完全に消すのは技術的に難しいため、データの出所管理、ハッシュ照合、学習データ監査、削除手順の記録が重要になります。

公開投稿やモデル出力を自動的に再利用する規約は、CSAMや同意のない私的画像のような高リスク分類を明確に除外し、被害者からの通知を受けた際の対応も示す必要があります。Ars Technicaは以前、研究者がCSAMを発見した後に削除されたデータセットを報じましたが、xAIがそのデータセットを使ったことを示す情報はありません。xAIは取材依頼に回答していません。責任の有無は証拠と裁判所の判断に委ねられますが、本件はモデルの忘却、被害者救済、学習データの説明責任を改めて浮き彫りにしています。

Ars Technica AI