Anthropic、外部評価機関に「社員並み」のAI安全アクセスを付与

導入

Anthropicは、外部のAI安全評価機関に対する関与を一段と深めた。非営利団体METRは6人のスタッフをAnthropicのオフィスに配置し、同社から提供された端末や作業スペースに加え、内部ツールとシステムへのアクセスを得た。アクセス範囲は、Anthropic自身のリスク評価チームが利用するものとおおむね同等とされる。外部評価者をプロジェクト後に呼ぶのではなく、日常の安全作業に組み込む方式だ。

主なポイント

• 社内メンバーに近い権限。 METRの担当者は内部システムを使い、従業員からリスク部門の同僚と同じように情報を受け取ることが推奨されている。
• 公表をAnthropicが拒否できない。 METRは分析結果を公開でき、Anthropicには最終的な拒否権がない。ただし、顧客データ、弁護士・依頼者間秘匿特権、モデルアーキテクチャに関する情報などは削除を求められる場合がある。
• Anthropicは費用を負担しない。 METRはAI企業やその従業員から寄付を受けず、個人、慈善団体、政府機関などから資金を得ている。
• 業界全体の実行はこれから。 Anthropicの経営陣はフロンティアAI企業への外部監査人の組み込みを提案してきたが、OpenAIなどは賛意を示しつつも、同様の具体策をまだ公表していない。

意義と課題

高性能なモデルは、サイバーセキュリティや経済、さらには人間社会全体に関わるリスクを生む可能性がある。しかし安全テストの詳細をすべて公開すれば、悪意ある利用者に手掛かりを与えたり、顧客情報や技術上の機密を流出させたりするおそれもある。Anthropicは今回の仕組みを、大手銀行に規制当局の担当者が常駐して監督する方式になぞらえている。

重要なのは、外部評価者がいるかどうかだけではない。どの範囲の証拠を確認でき、どの程度自由に報告できるかが実効性を左右する。METRは複数の大手AI研究所と協力してきたほか、異常なモデル挙動に関する調査にも参加し、ログや企業の端末を確認した経験を持つ。とはいえ、企業内に組み込まれた評価者が、対象企業への依存や組織的な圧力を避けられるかは今後も検証が必要だ。

Anthropicは、公開責任を果たしつつ、限定的な編集権限で機密を守る中間的な仕組みを選んだ。批判側からは、企業の自主的な取り組みだけでは政府による監督の代わりにならないとの指摘も出ている。AnthropicはAccentureとも安全テストを進め、SecureBioには化学・生物兵器リスクの評価を依頼している。今後、この方式が他社にも広がるかは、METRの報告内容、情報公開の質、そして正式な規制との役割分担にかかっている。

出典：Ars Technica AI