マイクロソフト、AIガバナンスを実行時の強制へ移行

はじめに

生成AIアプリケーションや自律型エージェントが本番環境で利用されるにつれ、ガバナンスの課題は「適切な規程を作ったか」だけではなくなっています。実際の呼び出し時にルールが適用されるのか、システムの挙動を観測できるのか、問題発生時に経緯を追跡できるのか、監査に耐える証拠を残せるのかが重要です。マイクロソフトが示したAIガバナンス・アーキテクチャは、こうした運用上の課題に対応しようとするものです。

主なポイント

• ガバナンスを継続的なループとして扱う。 政策が要件とリスク分類を定め、制御がアクセス規則や実行時ルールに変換します。可観測性が挙動を記録し、評価が品質と安全性を確認し、監査がテレメトリをコンプライアンスやインシデント調査の証拠にします。
• AIの運用経路全体を対象にする。 領域は政策、データガバナンス、モデルガバナンス、可観測性、評価、安全性、IDとアクセス、監査とコンプライアンス、エージェントガバナンスの九つです。制御対象はモデルだけでなく、ユーザー、エージェント、ツール、API、MCPサーバー、企業システム間のやり取りにも及びます。
• プラットフォームが実行境界になる。 Microsoft FoundryはPurview、Entra ID、Defender、Azure API Managementなどと組み合わせられます。AIゲートウェイは認証、トークン制限、クォータ、ポリシー適用を担います。MCPツールについては、サーバーやエージェントのコードを変更せず、認証、レート制限、IP制限、監査ログを集中管理できます。
• 評価をリリース前後に行う。 組み込み評価器とカスタム評価器を使い、データセットによってアプリケーションやエージェントを事前に確認できます。デプロイ後も、本番での挙動を継続的に監視できます。
• エージェントには追加の制御が必要になる。 ID、アクセス、活動、ワークフローのチェックポイントを設け、入力、モデル呼び出し、ツール実行、出力を検査します。影響の大きい操作には人間の承認を要求できます。

意義と影響

この提案の大きな意味は、AIガバナンスを一度きりの書類審査ではなく、運用可能で検証可能な基盤として捉えている点です。規程が存在するだけでは、本番環境で規則が守られたことを証明できません。実行時の制御とテレメトリが、組織の要求と実際の挙動を結び付けます。

実装はマイクロソフトの製品群を中心にしていますが、扱う課題は特定ベンダーだけのものではありません。NIST AIリスク管理フレームワークや生成AIプロファイルと照らせば、NISTがベンダー中立のライフサイクル管理の考え方を示し、マイクロソフトが一部の要求を具体的なプラットフォーム制御と運用データに対応付けていると理解できます。

企業にとっては、ID、アクセス、ゲートウェイ、評価、ログ、人間の承認、監査を個別に導入するだけでは不十分です。誰が何を呼び出し、どのツールを使い、どの結果になり、ルールが適用されたかを継続的に説明できる仕組みが必要になります。そこに、文書中心のガバナンスから実行時ガバナンスへの転換があります。

出典：InfoQ 中文