마이크로소프트, 학교용 AI 개인정보 보호 원칙 합의

학교에서 생성형 AI를 사용할지에 대한 논의가 교실 실험을 넘어 조달 계약과 거버넌스의 문제로 이동하고 있다. 마이크로소프트는 미국교사연맹(AFT)과 뉴욕 지역 산하 조직인 통합교사연맹(UFT)과 학교용 AI의 안전·개인정보 보호에 관한 10개 원칙을 마련했다. 교육구가 이 조항을 계약에 포함할 수 있다는 점에서 일반적인 기업의 자율 약속보다 집행 가능성이 높다.

핵심 내용

• 학생 데이터로 학습하지 않기: 학생과 교육자의 데이터를 AI 모델 훈련에 사용하지 않고, 처음부터 수집하는 데이터의 양도 줄인다.
• 쉬운 설명 제공: 가족에게 도구의 작동 방식과 정보 처리 방법을 이해하기 쉬운 언어로 공개한다.
• AI 동반자 금지: 학생과 지속적이고 관계적인 상호작용을 하도록 설계된 AI 동반자를 허용하지 않는다.
• 고위험 결정에 인간 검토: 중요한 결정은 자동화 시스템에만 맡기지 않고 사람이 검토하도록 한다.
• 계약에 바로 반영: 11월부터 교육구는 전체 계약을 다시 협상하지 않고 신규 또는 기존 계약에 원칙을 추가할 수 있다.

이번 합의는 학생 대상 AI와 학교 내 화면 사용에 대한 우려가 커지는 가운데 나왔다. 뉴욕시와 로스앤젤레스는 많은 학생을 대상으로 일부 AI 도구를 1년간 제한하고, 그 기간에 적절한 활용 범위와 보호장치를 검토하고 있다. 마이크로소프트가 개인정보와 안전성 약속을 학교 계약에 명시하는 것은 데이터 사용의 불투명성, 자동화된 판단에 대한 불안을 완화하려는 시도로 볼 수 있다. 교육구가 관련 제품을 광범위하게 제한할 가능성을 낮추려는 효과도 기대할 수 있다.

AFT는 AI를 무조건 지지하거나 전면 반대하는 입장은 아니다. 연맹 지도부는 어린 학년의 화면 사용을 줄이고 중학교 이전 학생의 직접적인 AI 사용을 금지해야 한다는 입장을 밝힌 바 있다. 동시에 마이크로소프트를 비롯한 기업과 함께 교사를 위한 AI 교육에도 참여하고 있다. 이번 합의는 AI를 제한적으로 활용하되, 공급업체에는 더 구체적이고 책임 있는 규칙을 적용해야 한다는 절충적 접근을 보여준다.

이 합의에서 가장 중요한 부분은 원칙을 계약 조항으로 전환했다는 점이다. 비슷한 조건을 채택하는 교육구가 늘어나면 학교용 AI의 경쟁 기준은 기능, 가격, 도입 속도만이 아니라 데이터 최소화, 가족에 대한 설명, 인간의 감독, 제품 형태 제한까지 확대될 수 있다. 물론 원칙 자체가 학생 보호를 보장하는 것은 아니다. 실제 효과는 계약 집행, 교육구의 감사 역량, 교사와 가족이 운영을 점검하고 문제를 제기할 수 있는 통로에 달려 있다. 앞으로 교육 AI 경쟁은 성능뿐 아니라 거버넌스의 품질도 함께 평가받게 될 가능성이 크다.

출처: The Verge AI