ユナイテッド航空、セキュリティと規制上の懸念からAIエージェントの予約を制限

AIエージェントが質問に答える段階から、利用者に代わって予約や購入を実行する段階へ進む中、企業はシステムへのアクセス範囲を見直し始めている。ユナイテッド航空は、未承認の第三者AIエージェントやアシスタントが利用者に代わって航空券を予約し、予約を管理することを制限すると明らかにした。

対象は同社のデジタルプラットフォームだけではない。旅行会社や予約アグリゲーターを通じた間接的なアクセスも制限し、予約、発券、流通に関するポリシーを更新するという。利用者が自分のログイン情報をAIアシスタントに共有し、その認証情報を使って操作させるケースが念頭にある。

主なポイント

• 認証情報の共有が新たなリスクになる。 パスワードやアカウント情報が漏えいすれば、AIアシスタントが機微情報に触れたり、利用者の意図を超えた操作を実行したりする可能性がある。
• 誤操作が金銭的な影響につながる。 同社は、意図しない購入、アカウント変更、MileagePlusマイルの利用などをリスクとして挙げている。
• 人間による確認が必要な手続きがある。 連邦航空規則との関係では、手荷物に禁止物質が含まれていないことを確認するなど、人間がチェックインを完了する必要がある場合がある。
• 航空業界だけの問題ではない。 Bank of Americaを含む銀行も、AIアシスタントにパスワードを共有しないよう顧客へ呼びかけている。

なぜ重要なのか

従来のオンラインサービスは、正しいパスワードでログインできれば、操作主体が利用者本人であるとみなすことが多かった。しかしAIエージェントが介在すると、利用者がどこまで権限を与えたのか、個々の操作を理解していたのか、問題が起きた際に誰が責任を負うのかが曖昧になる。

旅行予約は、決済情報、個人情報、会員マイル、日程に関わるため、一般的な情報検索よりも失敗の影響が大きい。エージェントが候補探しや入力を効率化できる一方、誤った予約やアカウント変更が発生すれば、取り消しや責任の整理が難しくなる。航空会社側も、不正利用、認証情報の盗難、重複操作、規制違反への対応を迫られる。

今回の対応は、航空会社が自動化を全面的に拒否したというより、未承認の代理アクセスを受け入れるための仕組みがまだ不十分だという判断とみられる。将来的には、公式に検証されたエージェント、操作ごとの明示的な権限、重要処理での人間確認、監査可能な記録などが必要になるだろう。

AIエージェントが本当の意味で利用者のデジタル代理人になるには、タスクをこなす能力だけでなく、認証、権限、責任の境界が欠かせない。ユナイテッド航空の制限は、モデル性能よりも先に、サービス側のアクセス設計が普及の速度を左右することを示している。

出典：TechCrunch AI