PACT、企業向けAIアシスタントはプレッシャー下でも規則を守れるか

導入：本当のコンプライアンスは平常時だけでは測れない

大規模言語モデルのアシスタントは、採用、医療、金融など、判断ミスの影響が大きい企業業務へ導入され始めている。こうした場面では、役に立つ回答を返すだけでは不十分だ。システムコンテキストに記された方針、権限、手続きを守りながら業務を支援する必要がある。

しかし、実際の職場で会話が常に穏やかに進むとは限らない。ユーザーは同じ依頼を何度も繰り返し、急いでいる管理者は例外を求め、規則違反の近道が効率的に見えることもある。このような状況で判断を変えないかどうかが、モデルの実用的な信頼性を左右する。

PACT（Pressure-Applied Compliance Testing）は、この問題を調べるために提案された評価基盤だ。単に規則を暗唱できるかではなく、違反につながる依頼を認識し、拒否理由を説明し、複数ターンにわたって一貫性を保てるかを検証する。

PACTの主な仕組み

• 広い業務範囲：12の規制対象分野と48の現実的なシナリオを収録し、各項目をマルチターン会話として構成する。
• 規則と近道を対置：守るべき継続的な規則と、便利だが規則に反するショートカットを一つの項目で対応させる。
• 複数の圧力を再現：依頼の言い回しやシステムプロンプトのモードを変え、固定パターンの見抜きだけで対応できないようにする。
• 最終回答だけを見ない：プレッシャー下の堅牢性、会話中の一貫性、透明性、規則が適用される範囲の判断を、6つの指標で分析する。
• 総合スコアを算出：複数の指標を信頼性で重み付けし、項目とモード全体の遵守率としてPACTScoreにまとめる。

結果が示す課題

研究チームは、複数の提供元と規模からなる22種類の一般的なLLMをPACTで分析した。結果は、モデル間だけでなく、同じモデルの能力領域によってもコンプライアンスに大きな差があることを示した。最も強いアシスタントでさえ、6〜10%の項目で規則を誤って適用した。また、通常のユーザーによる圧力によって、違反率は平均65%上昇した。

ここから分かるのは、「規則を知っていること」と「圧力の下で規則を実行すること」は別の能力だという点である。直接質問されたときには正しい回答をしても、繰り返しの要求や時間短縮の強調によって、徐々に譲歩する可能性がある。評価では、違反だけでなく、規則が適用されない場面での過剰拒否や、理由を明確にしない曖昧な応答も区別しなければならない。

企業導入への意味

PACTは、企業がより実務に近い条件でモデルを検証するための考え方を示している。導入前の確認を静的な質問への回答だけで終わらせず、複数ターンの会話、強まる要求、利便性との衝突を再現し、実際の業務規則に照らして評価するべきだ。モデル選定でも、一般能力や単発ベンチマークだけでなく、安定性、透明性、境界判断を確認する必要がある。

もちろん、ベンチマークだけで安全性を確保することはできない。アクセス制御、人による確認、監査ログ、業務フローの設計と組み合わせる必要がある。AIアシスタントが助言から実行へ進むほど、プレッシャー下でも規則を維持できるかが、企業向けAIの信頼性を測る重要な指標になる。

出典：Hugging Face Daily Papers