米控訴裁、国防総省によるAnthropic排除を支持

米ワシントンDC巡回区控訴裁判所は、国防総省がAnthropicをサプライチェーンリスク企業に指定し、政府機関による同社製品の利用を停止できると判断した。判決は2対1で、国防関連企業がAnthropicと取引することも禁じたトランプ政権の措置を支持する内容となった。

争点は、AnthropicがClaudeの軍事利用に設けた制限を、政府がサプライチェーン上のリスクとみなせるかどうかだ。Anthropicは、致死性の自律兵器や米国人の大規模監視にモデルを使うことを制限してきた。同社は、政府がその方針を変更させるために排除措置を取ったとして、違法な報復だと主張している。

条文の違いが結論を分けた

カリフォルニア州北部地区の連邦地裁は先月、政府の措置を違法と判断した。同裁判所は、10 USC §3252におけるサプライチェーンリスクが、敵対者による破壊、悪意ある機能の埋め込み、システムの転覆などを想定していると解釈した。Anthropicには悪意がなく、同社は政府が好まない用途制限を明示的に実施しているだけだという判断である。地裁は第一修正条項上の問題も指摘した。

これに対し、今回の控訴裁は、調達措置を41 USC §4713に基づいて審査した。同条文は、リスクの主体を敵対国や外国勢力に限定せず、「いかなる者」も対象に含めている。また、技術の機能や利用を拒否、妨害、操作する可能性も定義に含まれると、多数意見は説明した。DC巡回区控訴裁には、この条文に基づく調達措置を審査する専属管轄もある。

多数派は、Claudeが軍事ユーザーからの適法な指示を実行しない可能性を、国防総省が懸念するのは合理的だとした。Anthropicに悪意がなくても、軍事作戦でモデルが期待どおりに動作するか確信できない状態そのものが、より広い条文の下ではリスクになり得るという考え方だ。

AIの安全制限と軍事上の可用性

裁判所は、この問題を二つの危険の衝突として整理した。制限が過剰なモデルは重要な任務を突然拒否し、作戦を失敗させる可能性がある。一方、制限のないモデルは幻覚によって不適切な攻撃目標を示し、致死的な武力行使に影響を与えかねない。多数派は、この二つのリスクのバランスを決めるのは大統領と国防長官であり、裁判所が政策判断を置き換えるべきではないとした。

反対意見を書いたKaren Henderson判事は、法律の目的を広げすぎていると批判した。彼女によれば、条文は敵対国家や悪意ある行為者がサプライチェーンを通じて政府システムに侵入する危険に対応するものだ。企業が政府に対して利用制限を公開かつ誠実に適用することまで、サプライチェーンリスクに含めるべきではない。

業界への影響

判決は、軍や政府向けにAIを提供する企業の判断を難しくする。モデル開発者は、危険な用途を拒否する安全方針だけでなく、政府がその制限を任務継続性への脅威とみなす可能性も考慮しなければならない。

Anthropicは判決に同意しておらず、全裁判官による再審理や最高裁への上訴を検討している。商務長官Howard Lutnickは最近、政府とAnthropicの関係が修復されたと述べたが、法的な争いは続く可能性がある。今後の判断は、軍事分野でAI企業がどこまで利用境界を設定できるかを左右する先例となりそうだ。

出典：Ars Technica AI