유나이티드항공, 보안·규제 우려로 AI 에이전트 항공권 예약 제한

AI 에이전트가 질문에 답하는 도구를 넘어 사용자를 대신해 거래를 수행하기 시작하면서, 기업들은 외부 소프트웨어에 허용할 수 있는 시스템 접근 범위를 다시 검토하고 있다. 유나이티드항공은 승인되지 않은 제3자 AI 에이전트와 비서가 고객을 대신해 항공권을 예약하거나 예약을 관리하는 것을 제한한다고 밝혔다.

이번 조치는 항공사 자체 웹사이트와 앱에만 적용되는 것이 아니다. 유나이티드항공은 여행사와 예약 집계 서비스를 통한 간접 접근도 제한하고, 예약·발권·유통 정책을 업데이트할 계획이라고 설명했다. 고객이 자신의 로그인 정보나 비밀번호를 AI 비서에 제공하고, 이를 통해 항공사 시스템을 조작하는 상황이 주요 우려 대상이다.

핵심 내용

• 자격 증명 공유가 보안 취약점이 될 수 있다. 비밀번호나 계정 정보가 유출되면 AI 비서가 민감한 데이터를 열람하거나 고객이 예상하지 못한 작업을 실행할 수 있다.
• 실수는 실제 거래 피해로 이어질 수 있다. 유나이티드항공은 의도하지 않은 구매, 계정 변경, MileagePlus 마일리지 사용 등을 가능한 문제로 언급했다.
• 일부 절차는 사람의 확인을 요구한다. 항공 규정과 관련해 수하물에 금지 물질이 없다는 점을 확인하는 등, 승객이 직접 체크인을 완료해야 하는 절차가 있을 수 있다.
• 항공사만의 문제는 아니다. Bank of America를 포함한 은행들도 고객에게 AI 비서와 비밀번호를 공유하지 말라고 안내했다. 두 업계 모두 실제 고객과 고객을 대신해 행동하는 소프트웨어를 구분해야 하는 상황이다.

왜 중요한가

기존 온라인 서비스는 올바른 비밀번호로 로그인하면 계정 소유자가 직접 조작하는 것으로 간주하는 경우가 많았다. 하지만 AI 에이전트가 개입하면 고객이 어느 범위까지 권한을 부여했는지, 각 거래를 충분히 이해했는지, 오류가 발생했을 때 책임이 누구에게 있는지 판단하기 어려워진다.

항공권 예약은 결제 정보, 개인정보, 회원 마일리지, 일정이 동시에 얽힌 작업이다. AI 에이전트가 항공편 검색과 입력을 대신하면 편리하지만, 잘못된 예약이나 계정 변경이 발생했을 때 되돌리기 어렵고 분쟁도 복잡해질 수 있다. 항공사 입장에서도 사기, 자격 증명 탈취, 반복 요청, 규제 위반 가능성을 관리해야 한다.

이번 결정은 유나이티드항공이 모든 자동화를 거부한다는 뜻이라기보다, 범용 AI 에이전트가 거래를 수행할 수 있는 안전장치가 아직 충분하지 않다는 판단에 가깝다. 앞으로는 검증된 에이전트 식별, 작업별 명시적 권한, 고위험 단계의 사람 확인, 변경 내역을 추적할 수 있는 기록이 필요할 가능성이 크다.

AI 에이전트가 신뢰할 수 있는 디지털 대리인이 되려면 작업 수행 능력만으로는 부족하다. 누가 권한을 부여했는지, 에이전트가 무엇을 했는지, 문제가 발생했을 때 누가 책임지는지를 확인할 수 있어야 한다. 유나이티드항공의 제한은 에이전트 확산의 다음 단계에서 모델 성능만큼이나 접근 통제와 책임 구조가 중요하다는 점을 보여준다.

출처: TechCrunch AI