ミネソタ州のAI「脱衣」アプリ禁止法、xAIの差し止め請求を退け施行へ

導入

生成AIによる画像悪用をどこまで規制できるのか。その争点をめぐり、ミネソタ州の新法がまずは施行に進むことになった。TechCrunchがNBC Newsを引用して報じたところによると、米連邦地区裁判所のDonovan Frank判事は、xAIが求めていた一時的差し止め命令を認めなかった。対象は、人物画像を本人の同意なく裸や性的な姿に加工できる「nudify」アプリを禁じる州法だ。

重要ポイント

• 緊急差し止めは認められず：xAIは、8月1日の施行前に法律を止めるよう裁判所に求めたが、判事はこれを退けた。
• 申し立ての遅さが問題に：Frank判事は、xAIが法律署名から約3カ月後、施行の3日前になって申請した点を指摘した。こうした遅れは「差し迫った損害」という主張を弱めると判断された。
• 訴訟は継続：今回の判断は、法律の最終的な適法性を判断したものではない。xAIの訴え自体は今後も審理される。
• xAIの主張：同社は、この禁止法が過度に広く、同じ目的を達成するためにはより制限の少ない手段があると主張している。
• 背景にある悪用事例：報道では、今年初めにXのユーザーがxAIのGrokを使い、同意のない性的画像を大量に投稿した問題にも触れられている。

意味と影響

この裁判は、単なる一州の規制を超えた意味を持つ。生成AIは画像作成のコストを大きく下げた一方で、本人の同意なく性的な偽画像を作る行為を容易にした。被害はプライバシー侵害、嫌がらせ、未成年者保護、プラットフォーム上の拡散リスクなど多方面に及ぶ。

ミネソタ州の動きは、問題画像が広まった後に削除するだけでは不十分だという政策判断を示している。一方でAI企業にとっては、規制が表現や技術提供を過度に縛るのではないかという懸念も残る。

今後の審理では、禁止法が十分に限定された内容なのか、合法的な表現まで巻き込むのか、そしてAIツール提供者にどこまで責任を負わせるべきかが問われる。今回の判断は暫定的だが、AIによる非同意性的コンテンツへの米国の規制形成に影響を与える可能性がある。

出典：TechCrunch AI