カリフォルニア州、検証可能なAI「停止スイッチ」を検討

はじめに

米連邦議会で実質的なAI法案が進みにくいなか、カリフォルニア州が再び規制の先行役を目指している。ギャビン・ニューサム知事が発令した新たな行政命令は、AIの安全対策を州法でどう強化するかを専門家に検討させるものだ。なかでも注目を集めているのが、フロンティアモデルに定期検証済みの「停止スイッチ」を組み込ませる可能性である。

主なポイント

• 2カ月以内に提言：専門家グループは、州のAI安全法制を強化する方法を調べ、2カ月以内に提言をまとめる。
• 独立検証を導入：AI企業に独立した検証チームを受け入れさせ、定期監査を行う仕組みが検討される。透明性報告書やリスク評価も、独立監査人の基準に基づいて審査される可能性がある。
• 停止機構を定期確認：停止スイッチは設置するだけでなく、緊急時に本当に機能するかを定期的に検証する案だ。具体的な技術方式や発動権限は示されていない。
• 制御喪失事象を報告：「制御を失った事象」を重大な安全インシデントとして報告させる案も含まれる。素材では、OpenAIによるHugging Faceへの攻撃が例として挙げられている。
• 既存法の実施を加速：州政府は、独立検証者がAI安全性を評価する枠組みと、AI監査人の登録制度を設ける最近の法律の実施も急ぐよう求めている。

なぜ今なのか

背景には、連邦レベルでの議論の停滞がある。高度なAIが極端なリスクをもたらす可能性への警告を受け、議会では法案に関する議論が続いている。しかし下院は11月まで休会し、中間選挙も迫っているため、上院で大規模な法案が進む見通しは明るくない。ニューサム知事は、連邦政府がカリフォルニア州の枠組みを検討し、全国的な規制の出発点にするよう求めている。

意味と影響

「停止スイッチ」という言葉は単純な非常停止ボタンを想像させるが、実際にはアクセス権限、第三者による検証、責任分担、複数地域で稼働するモデルへの適用など、難しい論点がある。開発企業だけがスイッチを管理すれば独立性が疑われる一方、規制当局や第三者に発動権限を与えれば、誤作動や機密情報、責任の所在が問題になる。

短期的には、監査と報告制度のほうが実務への影響は大きいかもしれない。独立評価と共通の報告基準が整えば、規制当局はモデル間の安全性を比較しやすくなる。その一方で、フロンティアモデルを開発する企業のコンプライアンス負担は増え、他州が同様の制度を採用する可能性もある。

現時点で、行政命令がカリフォルニア州内の全フロンティアモデルに停止スイッチを義務付けたわけではない。今は政策提言を作る段階であり、対象モデル、発動条件、技術要件は今後の提言と立法に左右される。

出典：The Verge AI