소송 제기돼…xAI가 CSAM을 Grok 학습에 사용했을 가능성

들어가며

xAI가 아동 성착취 자료(CSAM)를 Grok 학습에 사용했을 수 있다는 내용의 소송을 제기받았습니다. Jane Doe라는 가명을 사용한 원고는 어린 시절 제작된 학대 이미지에 기반해 자신을 묘사한 AI 생성물이 Grok에서 만들어졌다고 주장합니다. 또한 원본 자료와 이후 생성된 합성물 모두가 모델 학습에 활용됐을 가능성이 있다고 말합니다. 다만 이는 소장에 담긴 주장일 뿐이며, 법원이 사실관계를 확정한 것은 아닙니다.

핵심 내용

• Doe는 유아기 성폭력 피해를 입었고, 관련 이미지는 오랫동안 아동보호 기관 등이 관리하는 해시 데이터베이스를 통해 식별·추적돼 왔다고 설명했습니다.
• 캐나다의 아동보호 기관이 자신을 묘사한 AI 생성 CSAM을 확인해 통보했다고 합니다. 소장에는 가해자들이 자신과 다른 알려진 피해자를 대상으로 합성 이미지를 만들자는 대화를 온라인에서 나눴다는 내용도 포함돼 있습니다.
• 원고 측 변호인들은 피해자 이미지와 연결된 기존 해시값의 자료가 Grok의 이미지·영상 생성 기능을 구축하는 데이터셋에 포함됐을 가능성을 주장합니다. 그러나 소장의 기술적 설명은 제한적이며, 현재 자료만으로 xAI의 사용이 입증됐다고 볼 수는 없습니다.
• 보다 구체적인 주장은 AI 생성 자료에 관한 것입니다. 원고는 xAI 약관이 공개 X 게시물과 Grok 출력물을 원칙적으로 학습 및 개선에 사용할 수 있도록 하면서, CSAM·비동의 사적 이미지·일부 성적 콘텐츠를 명확히 제외하는지 설명하지 않는다고 지적합니다.
• Doe는 관련 자료를 삭제하고, Grok이 CSAM 및 유사한 성적 피해 콘텐츠를 생성하지 못하도록 하며, 다른 피해자를 포함한 집단을 대표해 손해배상을 받기를 원합니다.

의미와 영향

이번 사건은 모델이 불법 이미지를 생성할 수 있는지에 그치지 않고, 유해 자료가 데이터 파이프라인에 들어온 뒤 어떻게 탐지·격리·삭제되는지를 묻습니다. 원본 파일을 삭제해도 이미 학습된 모델에서 그 영향력을 완전히 제거하기는 기술적으로 어렵습니다. 따라서 데이터 출처 기록, 해시 대조, 학습 데이터 감사, 삭제 절차의 문서화가 안전관리의 핵심이 될 수 있습니다.

공개 게시물과 모델 출력을 자동으로 재사용하는 약관에는 CSAM과 비동의 사적 이미지 같은 고위험 범주를 명확히 제외하는 조항이 필요합니다. 피해자 신고를 접수했을 때의 처리 방식과 재노출 방지 절차도 공개돼야 합니다. Ars Technica는 앞서 연구자들이 CSAM을 발견한 뒤 삭제된 데이터셋을 보도했지만, xAI가 해당 데이터셋을 사용했다는 근거는 제시되지 않았습니다. xAI는 논평 요청에 답하지 않았습니다. 최종 책임은 증거와 법원의 판단에 달려 있지만, 이번 소송은 모델 삭제와 피해자 구제, 학습 데이터에 대한 기업의 설명책임을 다시 부각하고 있습니다.

Ars Technica AI