AIの安全ルールを決めるのは誰か

導入

人工知能は金融、通信、防衛、エネルギーなど、障害が社会基盤へ波及する分野に入りつつある。AIの安全性は、もはや企業内部だけで扱う製品開発上の課題ではない。市場競争、公共の説明責任、国家安全保障に関わる制度設計の問題でもある。Cohereの共同創業者兼CEO、エイダン・ゴメス氏は、社会を大きく変える技術の境界を誰が決めるべきかと問いかける。少数の先行研究所なのか、それとも開かれた監督と検証の仕組みなのか、という問題だ。

なお、この記事はCohereの経営者が発表した意見文である。背景には、AnthropicのCEOであるダリオ・アモデイ氏が、主要AI研究所の協調と、そのための限定的な反トラスト法適用除外を政府に求めたロードマップがある。そのため、内容には政策上の主張だけでなく、企業間競争の視点も含まれる。ただし、誰が安全基準を作るのかという制度的な論点は、企業間の対立を超えて重要だ。

主な論点

• 安全策の必要性を否定しているわけではない。 ゴメス氏は、AIがソフトウェアやシステムの脆弱性を見つけるために使われ、攻撃側の能力が防御側より速く安価になる可能性を認めている。高リスク分野で利用されるシステムには、独立した検証が必要だという立場だ。
• 核心は、誰がリスクを定義するかにある。 少数の大手研究所が基準を決めれば、危険なシステムの定義、評価の閾値、開発の速度が、彼らの現在の能力を前提に設計されるおそれがある。ほかの開発者、政府、研究者、影響を受ける市民の参加機会も限られる。
• 反トラスト法の適用除外は既存企業を強化し得る。 協調によって安全研究の時間を確保できる可能性はある。しかし同時に、先行企業の資金、計算資源、規模が、競争に参加するための事実上の最低条件になる危険もある。
• モデル規模だけではリスクを測れない。 小型モデルでも、ツール利用、複数モデルの連携、検証手順によって高い能力を示し得る。複数のモデルが協調するシステムのリスクは、単一モデルとは異なる可能性がある。

過去の教訓と影響

ゴメス氏は、安全を目的とした制度が市場保護へ変わる例として、米国の債券格付け制度と欧州の自動車整備規制を挙げる。前者では、政府に認められた少数の格付け機関が長期的な参入障壁を形成した。後者では、安全性や信頼性を理由に自動車メーカーが販売・整備の基準へ強い影響力を持ち、その構造を緩和するのに長い改革が必要になった。

教訓は、厳しい基準が不要ということではない。安全基準を既存企業が独占的に管理する必要はない、という点にある。AIの制度には、独立評価機関、大学、政府、オープンソース開発者、利用業界、影響を受ける市民が関わるべきだ。基準の根拠を公開し、異議申し立ての手段を設け、新しいリスクに応じて継続的に見直すことも欠かせない。

少数企業の密室合意は短期的には効率的でも、長期的には実験や代替案を狭める可能性がある。AIガバナンスは、危険な能力をどう抑えるかだけでなく、危険の定義そのものが、ルールによって利益を得る企業に左右されないようにする方法も問われている。

Hacker News