MicrosoftのAI行動規範、ハッキングと人間を欺く行為を禁止

AI業界が性能競争だけでなく、安全性とアラインメントに注目するなか、Microsoftは自社AIモデルの振る舞いを導く行動規範を公表した。これはフロンティアモデルの開発速度をめぐる大きな政策提言というより、MicrosoftがAIに求める価値観と、モデル訓練や運用で守らせる境界線を示す文書である。

規範の主な内容

文書は、今後10年のうちに超知能AIが多くの課題で人間を上回る可能性を前提にしている。そのうえで、強力なシステムを封じ込め、制御し、アラインメントすることを人類にとって極めて大きな課題と位置付ける。だからこそ、なぜAIを開発するのか、どのように制御するのかを明確にすべきだという考え方だ。

原則として、Microsoftのモデルは人間を置き換えるのではなく支援し、人間の繁栄を促進する方向で動くことが求められる。さらに、この行動規範は単なる利用者向けの推奨事項ではない。Microsoftの説明では、各モデルに設定される包括的な規範が、個々のユーザーの希望や特定タスクの指示より優先される。

具体的な「絶対的制約」には、サイバー攻撃、核兵器への関与、ディープフェイクの制作を行わないことが含まれる。また、人間の監督を無効化する行動も対象だ。モデルは、適応的な欺瞞、自己強化、共謀などによって監督を回避し、権限を持つ人間やシステムから確実に指示・変更・停止されない状態を作ってはならない。

意義と残る課題

この発表の意義は、安全性に関する抽象的な理念を、モデルが従うべきルールへ接続しようとしている点にある。禁止事項は、訓練、評価、権限管理、導入審査の基準に反映しやすい。ただし、公開された文書だけでは、各制約がどのような技術で実装されるのか、長期的にどの程度有効なのかまでは確認できない。行動規範は安全性を支えるガバナンスの一部であり、問題の解決そのものではない。

Microsoftは、AIエージェントの逸脱事例や、AIが人類の存続を脅かす可能性を指摘する公開発言によって、安全性への関心が高まっていると説明する。また、最先端能力を慎重に進めることや、AI研究所に評価担当者を組み込む考え方にも支持を示している。

実際の課題は、モデルが複雑な権限、曖昧な依頼、相反する指示に直面する場面である。規範を機能させるには、レッドチームテスト、能力評価、権限分離、停止手順の検証を継続する必要がある。今回の文書は、「モデルに何をさせないか」と「人間がどう制御を保つか」を同じ枠組みで整理した点に意味がある。

出典：TechCrunch AI