诉讼指控：xAI或曾用儿童性虐待材料训练Grok

导语

xAI正面临一宗涉及儿童性虐待材料（CSAM）的新诉讼。案件原告以Jane Doe为化名，指控xAI不仅让Grok生成以真实受害者为对象的AI合成影像，还可能将原始材料及后续生成内容用于训练模型。需要强调的是，这些内容目前属于诉讼中的指控，法院尚未对事实作出裁定。

核心要点

• 原告称，自己幼年遭受侵害，相关影像多年来被执法和儿童保护机构纳入哈希数据库，以便识别和追踪。
• 加拿大儿童保护机构据称发现了描绘她的AI生成CSAM。诉状还提到，网络论坛中有人讨论制作以她及其他已知受害者为对象的合成内容。
• 律师主张，包含原始影像哈希值的数据可能被用于构建Grok的图像和视频生成能力。但诉状没有披露更详细的技术证据，不能据此断言xAI已经被证明使用了这些材料。
• 对AI生成内容的指控更为具体。原告认为，xAI条款默认将公开发布的X内容和Grok输出作为训练与改进数据，而条款对CSAM、非自愿私密影像及部分成人内容是否明确排除，表述并不清晰。
• 原告请求法院命令xAI销毁服务器上可能保存、并用于训练的相关内容，同时阻止Grok生成CSAM及其他性化伤害内容，并寻求代表类似受害者提出索赔。

意义与影响

案件的关键并不只是模型能否生成违法内容，还在于内容进入数据管线后如何被发现、隔离和移除。即使原始文件被下架，已经训练完成的模型仍可能保留其影响，彻底消除也具有技术难度。因此，平台需要明确说明训练数据的来源、用户发布内容与模型输出的使用边界，以及针对CSAM、非自愿私密影像等高风险类别的排除和审计机制。

Ars Technica此前报道过一份因包含CSAM而被清理的数据集，但现有材料没有显示xAI使用过该数据集。xAI尚未回应媒体置评请求。最终责任仍取决于诉讼中的证据、平台条款的解释及法院裁决，但这起案件已把生成式AI的受害者救济、数据删除和模型遗忘问题推到监管与行业讨论的中心。

Ars Technica AI