Microsoft、学校向けAIの新たなプライバシー原則で合意

学校でのAI利用をめぐる議論は、授業で試すかどうかという段階から、調達契約とガバナンスの問題へ移りつつある。Microsoftは、米国教員連盟（AFT）とそのニューヨーク支部である統一教員連盟（UFT）との間で、教育向けAIの安全性とプライバシーに関する10項目の原則に合意した。学区はこの原則を契約に組み込めるため、単なる企業の自主的な約束よりも実効性を持たせやすい。

主なポイント

• 生徒データで訓練しない：生徒や教育関係者のデータをAIモデルの訓練に使わず、そもそものデータ収集量も抑える。
• 分かりやすい説明：家庭に対し、ツールの仕組みと情報の扱いを平易な言葉で説明する。
• AIコンパニオンを禁止：生徒と継続的な関係を築くよう設計されたAIコンパニオンを認めない。
• 高リスク判断は人間が確認：重要性の高い判断を自動システムだけに委ねず、人間による確認を求める。
• 既存契約にも追加可能：11月から、学区は契約全体を再交渉せずに新規・既存契約へ原則を追加できる。

今回の合意の背景には、生徒向けAIや学校での画面利用に対する懸念がある。ニューヨーク市とロサンゼルスは、多くの生徒を対象にAIツールの利用を1年間制限し、その間に適切な用途と安全策を検討している。Microsoftにとって、プライバシーと安全性に関する約束を学校との契約に明記することは、データ利用の不透明さや自動判断への不安に応える手段となる。また、学区が製品全体を広く制限する可能性を抑える狙いも考えられる。

AFTの立場は、AIを無条件に支持するものでも、全面的に否定するものでもない。組合側は低学年での画面利用を抑え、中学校以前の生徒向けAIを禁止する考えを示している一方、Microsoftを含む企業と教師向けAI研修にも取り組んでいる。今回の合意は、AIを使う余地を残しつつ、提供企業に明確で責任ある制約を課す姿勢を示している。

重要なのは、原則が契約条項になった点だ。今後、同様の条件を採用する学区が増えれば、学校向けAIの評価軸は機能や価格だけでなく、データ最小化、家庭への説明、人間による監督、製品形態の制限へ広がるだろう。ただし、実際の保護効果は契約の執行、学区の監査能力、教師や家庭が運用を検証できる仕組みに左右される。教育AIの次の競争は、性能だけでなくガバナンスの質を問うものになりそうだ。

出典：The Verge AI