米政府の先端AI安全審査ルール、公開を求める訴訟

米政府が、先端AIモデルを公開してよいかどうかをどのように判断しているのか。その内部手続きが、司法の検証を受ける可能性が出てきた。超党派の非営利団体Protect Democracyは、トランプ政権が高度なAIモデルの公開前審査に使っている枠組みについて、4つの連邦機関を提訴した。原告は、政府が国民や議会に制度の詳細をほとんど明らかにしていないと主張している。

開示を求めている情報

情報自由法に基づく請求の対象は、主に次の通りだ。

• 審査枠組みの本文と手続き
• 参加企業、機関、「信頼できるパートナー」の身元
• 参加条件、契約上の取り決め、制度の法的根拠
• どの企業が先端モデルを取得でき、どの顧客がアクセスできるかを判断する基準
• 公開前モデルをテストする具体的な手順

Protect Democracyは、9月30日までに資料を提出するよう裁判所に求めている。また、機密指定されていない記録を不適切に隠すことを禁じる命令も要請した。国家サイバー長官室は請求の処理を早めることを拒否し、提訴時点で、他の機関も記録を提供していなかったという。

「機密ではない」情報も非公開に

ホワイトハウスは、先端AIモデルを審査する任意の枠組みを完成させ、すでに運用していると説明している。さらに、業界パートナーの協力を得て各分野のサイバーセキュリティ上の脆弱性を見つける情報集約拠点「GOLD EAGLE」も立ち上げた。しかし、参加企業、協力条件、制度の法的権限は公開されていない。

政府の評価プロセスの一部は機密扱いになり得る。大統領令は、高度な能力を測定し、どのモデルを「先端AI」と分類するかを判断する機密ベンチマークの構築に言及していた。一方、Protect Democracyは、審査枠組み全体が機密指定されたわけではないと指摘する。ホワイトハウス側は、機密でない情報でも、すべての人に広く知らせる義務が自動的に生じるわけではないとの立場を示している。

また、「対象となる先端モデル」の定義が明確でないことも問題視されている。定義が狭すぎれば危険なモデルが審査をすり抜ける可能性がある。逆に広すぎれば、人員削減の影響を受けた行政機関が過剰な審査を担うことになる。

問われるAIガバナンス

原告は、基準が不透明なままだと、モデルの承認や利用者へのアクセス許可に政治的好みや企業との関係が影響し得ると懸念している。団体は、政権がAnthropicに対して思想的な対立を理由に制限措置を取ったとされ、裁判官がそのブラックリスト化を違法と判断した事例にも言及している。また、OpenAIが最先端モデルの配布先を政府が審査したパートナーに限る非公開合意を結んだと指摘する。これらは訴訟で示された主張であり、すべてが最終的に確定した事実ではない。

この事件は、単なる情報公開の争いにとどまらない。AI安全の基準を誰が決めるのか、企業はどのようにルール作りに関わるのか、議会や独立専門家、一般市民が審査基準を検証できるのかが問われている。カリフォルニア州で検討されているSB 813は、独立組織と公開された基準によってAIリスクの評価水準を定める方向性を示している。

開示が命じられれば、政権は審査制度の範囲、責任の所在、技術的根拠を説明する必要に迫られる。非公開が広く認められれば、先端AIの統治は行政機関と一部企業による閉じた協力関係に依存し続ける。モデルの能力とサイバーリスクが同時に高まる中、透明性は任意審査制度の信頼性を測る重要な指標になる。

出典：Ars Technica AI