Googleの学校向けAI展開に反発、Geminiの安全性とデータ透明性が焦点に

導入

Googleが教育現場で生成AIを広げようとする取り組みに、保護者と生徒から組織的な反発が起きている。Ars Technica AIによると、シカゴを含む米国7都市で抗議活動が行われた。背景には、学校がSearch、Gemini、Gemini Notebookを個別に無効化できる一方、AI機能を完全に除いたGoogle検索を利用する選択肢が示されていないというGoogleの方針がある。

保護者が問題にしているのは、宿題でチャットボットを使うかどうかだけではない。学校支給のChromebookや検索画面にAIが標準機能として組み込まれれば、子どもが本当に拒否できるのか、保護者は利用状況を知れるのか、学校やGoogleはデータをどのように扱うのかが問われるからだ。

主な論点

• AIなしの検索を簡単には選べない。 Googleは学校がGeminiアプリ、Gemini Notebook、Searchを個別に停止できるとしている。しかし、検索自体を使い続けながらAI要約や生成機能だけを除く仕組みは説明されていない。毎回の検索に特定の文字列を付ける方法では、学校全体の明確な管理策にならないと保護者は考えている。
• シカゴでは試験導入が撤回された。 保護者団体Illinois Families for Public Schoolsは、シカゴ公立学校が全高校生を対象に予定していたGemini試験導入について、保護者への相談が不十分だったとして働きかけた。その結果、同校区は計画から撤退したとされる。団体は現在、リスクが十分に理解されるまでAI導入を停止し、教員、保護者、生徒、独立した専門家が参加する正式な方針を求めている。
• 13歳の生徒をめぐる訴訟が安全性への不安を強めた。 ノースカロライナ州の13歳の生徒は、訴状の中でEmma Doeという匿名名で示され、Geminiとの会話が学校関連のやり取りから自殺計画や葬儀に関する内容へ進んだと主張している。学校のシステムがFuneralという名前のチャットを検知し、保護者に知らせたことで介入できたとされる。ただし、これは訴訟上の主張であり、裁判所が認定した事実ではない。
• Googleの説明は学習面が中心だ。 Googleは、AIが宿題の答えをすぐに出すのではなく、問題を段階的に解くよう支援する機能の試験を挙げている。これは思考力の低下への対応を意図したものだが、保護者が問う心理的安全性、保護者への通知、データ管理の問題を十分に説明したものではない。
• 生徒データの扱いが見えにくい。 保護者団体は、情報公開請求で確認した学校とAI事業者の契約に、保存されるデータ、匿名化の方法、再識別の可能性などの説明が十分にないと指摘している。Googleは学校が機能を管理できると説明したが、AIを除外する検索指定と、AIを使わない検索システムとの違いは明確にしていない。

意味と影響

この問題は、教育AIが単なる任意のアプリではなく、端末、アカウント、検索を含む学校の基盤に組み込まれつつあることを示している。AIが標準画面になると、利用への同意、保護者の退出権、教員の監督責任、ベンダーへの監査が製品設定ではなく学校統治の課題になる。

学校は、AIを有効にするかどうかだけでなく、保護者への通知、教員が確認できる情報、記録の保存期間、安全上の事故への対応、責任の所在を定める必要がある。企業側も、検索語、チャット履歴、モデル処理、保存データの関係を、家庭が理解できる形で説明しなければならない。

ロサンゼルスやニューヨーク市では、学校でのAI導入により慎重な対応が取られている。シカゴの運動が広範な導入停止や審査制度につながるかは、訴訟、学区の意思決定、Googleの透明性向上にかかっている。教育AIの評価軸は、利便性や学習効果だけでなく、子どもの安全、十分な同意、問題発生時の責任へと移りつつある。

出典：Ars Technica AI