xAIがGrok利用者を提訴、AI生成物の責任論が焦点に

導入

Grokが同意のない性的画像や児童性的虐待資料の生成に悪用され得るとの批判が強まる中、イーロン・マスク氏率いるxAIは、利用者を訴えるという手段に踏み切った。Ars Technicaによれば、同社はSouth Carolina州で係争中の刑事事件に関係するTerry Wayne Harwood氏を相手取り、Grokの不正利用によって違法コンテンツを作成したと主張している。

主要ポイント

• 対象は具体的な利用者：xAIは、Harwood氏が少なくとも2つのGrokアカウントを使い、数カ月にわたって非性的な画像を不適切な画像へ改変しようとしたと主張している。その中には未成年者の肖像が含まれる可能性があるという。
• 安全機能の限界が示された：訴状では、Grokが一部の明白に違反するプロンプトを拒否した一方、被告が誤解を誘う表現などで保護策を回避したとされる。ただし、回避方法の拡散を避けるため、成功したプロンプトの詳細は示されていない。
• xAIは利用規約を根拠にする：同社の規約は、実在人物を脱衣させるような加工、人物の性的描写、子どもの性的搾取を禁じている。xAIは、被告の行為が契約違反であり、法にも反すると訴える。
• 背景には集団訴訟の圧力：被害を訴える未成年者側からは、xAIが法執行機関の追跡に十分なユーザー情報を提供しなかったとの主張も出ている。
• 争点は「中立的ツール」論：xAIは、Grokは利用者の指示で動く中立的な生成AIツールであり、入力と出力の責任は利用者にあると位置付けようとしている。

意味と影響

この訴訟は、単に一人の悪用者を罰するためのものではない。xAIは、Grokによって生じた有害な出力について、企業ではなく規約と法律に違反した利用者が責任を負うという法的枠組みを確立しようとしている。裁判所がこの主張を受け入れれば、同社は今後の民事訴訟で有利な防御材料を得る可能性がある。

一方で、生成AIの出力を通常の道具の結果と同じように扱えるかは未解決だ。AI企業はモデルの能力、安全フィルター、ログ管理、アカウント停止、当局への通報体制を設計・運用している。防止策が十分でなかった場合、利用規約だけで企業責任を免れられるとは限らない。

この事件は、マルチモーダルAIが実在人物や未成年者に重大な被害をもたらし得る時代に、悪意ある利用者とプラットフォームの責任をどう分けるべきかを問う重要な事例となりそうだ。

出典：Ars Technica AI