AI 합성 성적 이미지 사건, 학교의 신고 의무를 시험하다

도입

미국 펜실베이니아주의 사립 K-12 학교 Lancaster Country Day School(LCDS)이 AI로 생성된 동급생 성적 이미지 사건과 관련한 소송을 기각해 달라고 법원에 요청했다. 피해를 주장하는 여학생들은 남학생들이 자신들의 이미지를 AI로 조작한 뒤 학교가 수개월 동안 충분히 알리지 않았고, 그 사이 공포와 피해가 커졌다고 말한다.

학교 측의 반박은 법적 의무의 경계에 초점을 맞춘다. 최초 제보는 펜실베이니아 주 법무장관실에서 왔으며, 그 자체가 법 집행기관이라는 것이다. 학교는 가능한 범위에서 학생과 보호자를 면담하고 결과를 다시 전달했기 때문에 “법 집행기관에 보고하지 않았다”는 주장은 맞지 않는다고 주장한다.

핵심 내용

• 피해 규모: 소송에서는 최소 59명의 여학생이 영향을 받았다고 주장한다. 남학생 2명은 이후 아동 성적 학대와 관련된 59건의 중범죄 혐의를 인정했고, 보호관찰과 각 60시간의 사회봉사를 명령받았다.
• 학교의 방어 논리: LCDS는 제보에 구체적 피해자 이름이 없었고, 학교가 문제의 이미지를 직접 본 적도 없다고 말한다. 또한 행위가 학교 밖에서 이뤄졌고 학교 장비나 네트워크가 사용되지 않았다고 강조한다.
• 법적 공백: 학교는 펜실베이니아의 의무신고 규정이 실제 아동학대를 대상으로 하며, AI 생성 이미지가 현행법상 명확히 포함되지 않는다고 본다. 관련 법 개정이 추진 중이라는 점도 기존 법에 빈틈이 있다는 근거로 제시했다.
• 피해자 측 주장: 여학생들은 학교가 학부모에게 충분히 알리지 않았고, 경찰 신고를 지연하거나 수사 협조에 소극적이었다고 주장한다. 또 심각하고 광범위한 성희롱에 학교가 고의적으로 무관심했다며 Title IX 위반도 제기했다.

의미와 영향

이 사건은 생성형 AI가 학교 안전 제도의 전제를 흔들고 있음을 보여준다. 기존 규정은 실제 촬영물, 물리적 접촉, 교내 행위, 학교 기기 사용 여부를 중심으로 만들어졌다. 그러나 AI 도구는 학교 밖에서도 해로운 합성 이미지를 만들 수 있고, 그로 인한 수치심과 불안, 학습권 침해는 학교 공동체 안에서 발생한다.

법원이 학교 측 주장을 받아들이면 교육기관들은 앞으로 “교외에서 발생했다”, “이미지를 직접 확인하지 못했다”, “법에 명시돼 있지 않다”는 기준에 더 의존할 수 있다. 반대로 피해자 측 주장이 인정되면, 학교는 정보가 불완전하더라도 조기에 경찰에 알리고 학부모에게 설명하며 학생을 보호해야 할 책임이 더 강해질 수 있다.

AI 합성물은 가짜일 수 있지만 피해는 현실이다. 이 사건은 학교와 입법자가 그 간극을 어떻게 메울지 묻는 중요한 시험대가 되고 있다.

출처: Ars Technica AI