미네소타 AI ‘누디파이’ 앱 금지법, xAI 긴급 제동 시도에도 시행 가능

도입

생성형 AI가 만든 비동의 성적 이미지 문제를 두고 미국 주정부의 규제가 본격적인 법정 시험대에 올랐다. TechCrunch가 NBC News를 인용해 전한 내용에 따르면, 미 연방지방법원 Donovan Frank 판사는 xAI가 미네소타주의 ‘nudify’ 앱 금지법 시행을 일시적으로 막아 달라고 낸 요청을 기각했다. 이에 따라 해당 법은 xAI의 소송이 계속되는 동안에도 시행될 수 있다.

핵심 내용

• 임시 제한 명령 기각: xAI는 8월 1일 법 시행을 앞두고 긴급하게 효력을 정지해 달라고 요청했지만 법원은 받아들이지 않았다.
• 신청 시점이 판단에 영향: Frank 판사는 xAI가 법이 서명된 지 거의 3개월이 지난 뒤, 시행을 불과 3일 앞두고 신청했다는 점을 지적했다. 이는 피해가 즉각적이라는 주장에 불리하게 작용했다.
• 소송은 계속 진행: 이번 결정은 법의 최종 적법성에 대한 판단이 아니다. xAI의 본안 소송은 여전히 남아 있다.
• xAI의 주장: xAI는 이 금지법이 지나치게 광범위하며, 같은 목적을 달성할 수 있는 덜 제한적인 대안이 있다고 주장한다.
• 배경이 된 플랫폼 악용: 보도는 올해 초 X 사용자들이 xAI의 Grok 챗봇을 이용해 비동의 성적 이미지를 대량으로 유포했고, 이에 조사와 차단 조치가 이어졌다고 설명했다.

의미와 영향

이번 사건은 AI 기업과 주정부 간의 단순한 절차 싸움이 아니다. 생성형 AI 도구가 실제 인물의 사진을 성적으로 조작하는 데 악용될 때, 이를 표현의 자유, 기술 혁신, 개인정보 보호, 괴롭힘 방지 사이에서 어떻게 다룰 것인지가 핵심이다.

미네소타주의 접근은 사후 삭제나 플랫폼 자율 규제만으로는 피해 확산을 막기 어렵다는 문제의식을 반영한다. 반대로 AI 기업 입장에서는 법이 합법적 도구나 표현까지 과도하게 제한할 수 있다는 우려를 제기할 수 있다.

법원의 이번 판단은 특히 절차적 메시지가 크다. 기업이 새 규제를 긴급하게 막으려면 구체적이고 임박한 피해를 설득력 있게 보여줘야 하며, 시행 직전에 제기한 신청은 불리하게 해석될 수 있다. 앞으로의 본안 심리에서는 금지법의 범위, 대안적 규제 가능성, AI 도구 제공자의 책임 범위가 더 본격적으로 다뤄질 전망이다.

출처：TechCrunch AI