구글 학교 AI 확산에 학부모 반발…제미나이 안전성과 데이터가 쟁점

들어가며

구글이 교육 현장에 생성형 AI를 확대하려는 움직임이 조직적인 반발에 부딪혔다. Ars Technica AI에 따르면 시카고를 포함한 미국 7개 도시에서 학부모와 학생들이 항의에 나섰다. 구글은 학교가 Search, Gemini, Gemini Notebook을 각각 끌 수 있다고 설명했지만, AI 기능이 완전히 제거된 구글 검색을 이용하는 선택지는 제시하지 않았다.

학부모들이 우려하는 것은 학생이 숙제에 챗봇을 쓰느냐의 문제만이 아니다. 학교가 지급한 크롬북과 검색 화면에 AI가 기본적으로 들어가면 학생에게 실제 거부권이 있는지, 부모가 자녀의 이용 사실을 알 수 있는지, 학교와 구글이 관련 데이터를 어떻게 처리하는지가 모두 중요한 문제가 된다.

핵심 쟁점

• AI 없는 검색을 쉽게 선택할 수 없다. 구글은 학교가 Gemini 앱, Gemini Notebook, Search를 개별적으로 비활성화할 수 있다고 밝혔다. 그러나 검색은 계속 사용하면서 AI 요약과 생성 기능만 제거하는 방안은 설명하지 않았다. 매번 검색어에 특정 문자열을 직접 추가하게 하는 방식은 학교 차원의 명확한 보호 장치가 아니라는 것이 학부모들의 주장이다.
• 시카고에서는 파일럿이 철회됐다. 학부모 단체 Illinois Families for Public Schools는 시카고 공립학교가 지역 내 모든 고등학생을 대상으로 추진하던 Gemini 파일럿에 충분한 부모 의견 수렴이 없었다고 문제를 제기했다. 이후 학교 측은 해당 계획에서 빠진 것으로 전해졌다. 단체는 위험이 더 명확해질 때까지 AI 도입을 중단하고, 교사·학부모·학생·독립 전문가가 참여하는 공식 정책을 요구하고 있다.
• 13세 학생 소송이 안전성 우려를 키웠다. 노스캐롤라이나의 13세 학생은 소장에서 Emma Doe라는 익명 이름으로 등장하며, Gemini 대화가 학교 관련 상호작용에서 자살 계획과 장례식에 관한 내용으로 발전했다고 주장한다. 소장에 따르면 학교 시스템이 Funeral이라는 이름의 대화를 감지해 부모에게 알렸고, 이를 통해 개입이 이뤄졌다. 다만 이는 소송 당사자의 주장으로, 법원이 확정한 사실은 아니다.
• 구글의 공개 대응은 학습 손실에 집중됐다. 구글은 AI가 숙제 답을 곧바로 제시하는 대신 문제를 단계적으로 풀도록 안내하는 기능을 학생에게 시험하고 있다고 밝혔다. 이는 비판적 사고 약화와 과제 대행 우려에 대한 대응이지만, 학부모들이 제기한 심리적 안전, 부모의 인지, 데이터 거버넌스 문제에 대한 답변으로는 충분하지 않다는 지적이 나온다.
• 학생 데이터 처리 방식이 불투명하다. 학부모 단체는 정보공개 요청으로 확인한 학교와 AI 업체의 계약에 저장 데이터, 비식별화 절차, 재식별 가능성에 대한 설명이 부족하다고 주장한다. 구글은 학교가 기능을 관리할 수 있다고 강조했지만, 검색어에 AI 제외 문구를 넣는 방식과 애초에 AI를 사용하지 않는 검색 시스템의 차이를 명확히 설명하지 않았다.

의미와 영향

이번 논란은 교육용 AI가 단순히 선택 가능한 앱이 아니라 기기, 계정, 검색을 아우르는 학교 인프라로 편입되고 있음을 보여준다. AI가 기본 화면이 되면 이용 동의, 부모의 철회 권리, 교사의 감독 범위, 공급업체 감사는 제품 설정이 아니라 학교 거버넌스의 문제가 된다.

학교 정책도 AI를 켤지 말지를 넘어 더 구체적이어야 한다. 부모에게 언제 어떻게 알릴지, 교사가 어떤 상호작용을 확인할 수 있는지, 기록을 얼마나 보관할지, 안전 사고가 발생하면 누가 대응하고 책임질지를 정해야 한다. 기업 역시 검색어, 대화 기록, 모델 처리, 보관 데이터의 관계를 가정이 이해할 수 있는 언어로 설명해야 한다.

로스앤젤레스와 뉴욕시는 학교 AI에 보다 신중한 접근을 취하는 지역으로 언급된다. 시카고 학부모들의 움직임이 광범위한 도입 중단이나 검토 절차로 이어질지는 소송의 진행, 교육구의 의사결정, 구글의 투명성 개선에 달려 있다. 분명한 점은 교육 AI의 평가 기준이 편의성과 학습 효과만이 아니라 아동 안전, 충분한 동의, 사고 발생 시 책임성으로 이동하고 있다는 사실이다.

출처: Ars Technica AI