OpenAI・Anthropic・Google、数週間にわたりAI安全性を協議

導入

フロンティアAIを開発する企業同士の安全性協力が、非公開の接触から公の政策議題へと移りつつある。OpenAIのグローバル政策責任者クリス・レハネは記者団に対し、OpenAIがAnthropicおよびGoogle DeepMindと、AI安全性について数週間にわたって協議してきたと明らかにした。発表のタイミングは、米政権側がAIの壊滅的リスクを軽視し、中国との競争を優先している時期と重なる。

主なポイント

• 3社が継続的な対話を認めた。 レハネは、正式な業界同盟や規制機関が設立されたとは説明していない。ただし、3社がAI安全性について意見交換していることは認め、AI企業の幹部が水面下で接触していたという先行報道を裏付けた。
• 第三者評価が共通の論点になっている。 Anthropicのダリオ・アモデイCEOは、フロンティアAI業界が協力し、開発ペースを抑えて壊滅的リスクを避けるべきだと訴えた。OpenAIのサム・アルトマンCEOも、Anthropicとともに第三者評価者を導入し、安全性を監視すると述べている。
• 標準化組織の構想も報じられている。 The Informationは、3社がAI業界の標準化団体の設立に向けて協力していると報じた。Google DeepMindのデミス・ハサビスCEOも以前、高度なモデルを審査し、危険が高まった場合に業界全体の対応を調整できる監督機関を米国が設けるべきだと主張していた。ただし、現時点で正式な組織が発足したことは素材から確認できない。
• 協力は反トラスト法との緊張を抱える。 競合企業がモデル開発や展開について調整すれば、競争を抑制したとみなされる可能性がある。アモデイは安全性協力に限定した政府の免除を提案したが、レハネは免除は必要ないと述べたとされる。
• OpenAIは独立検証を支持する。 レハネによれば、OpenAIはFRONTIER Actに含まれる、主要なフロンティア研究所が「独立検証組織」を受け入れることを義務付ける条項を支持している。

意味と影響

今回の重要性は、3社が拘束力のある開発停止や減速に合意した点にはない。安全性が、各社が個別に定義する問題ではなく、競合企業が共同で扱う基盤的な課題になりつつある点にある。企業ごとに評価方法が異なれば、外部の関係者はモデル間の安全性を比較しにくい。一方で、競合企業が技術や事業に関する情報を広く共有すれば、競争法上の問題を招き得る。

第三者評価と共通基準は、その中間的な解決策になり得る。各社は能力や製品で競争しながら、比較可能な枠組みで外部検査を受けられるからだ。ただし、評価機関の資金源、モデルへのアクセス権、機密情報の扱い、結果の公開範囲が信頼性を左右する。独立性と透明性が弱ければ、標準化は業界による自己認証にとどまる。

さらに政策環境も不透明だ。トランプ大統領は安全性への懸念を否定し、開発を遅らせれば中国に優位を与えると主張している。AI顧問のデービッド・サックスも、存亡リスクへの懸念は誇張されていると述べた。企業は、開発が責任あるものだと示す一方、安全審査が革新や競争を妨げる仕組みにならないことも説明しなければならない。今後の焦点は、非公開の対話を、透明で検証可能かつ法的に持続可能なルールへ転換できるかどうかだ。

出典：TechCrunch AI