기업 AI 에이전트 보안 격차가 현실이 되고 있다

도입

AI 에이전트는 더 이상 실험용 챗봇이나 데모 기능에 머물지 않는다. 기업 내부 시스템에 접속하고, 데이터를 조회하며, 도구를 호출하고, 일정 범위 안에서 업무를 실행하는 운영 주체로 이동하고 있다. VentureBeat Pulse Research가 107개 기업을 대상으로 실시한 조사에 따르면, 기업이 에이전트에 부여하는 권한과 자율성은 빠르게 커지고 있지만 이를 통제할 보안 체계는 같은 속도로 발전하지 못하고 있다.

핵심 내용

• 사고는 이미 발생하고 있다: 조사에 따르면 54%의 기업이 AI 에이전트 관련 확인된 보안 사고 또는 아차 사고를 경험했다. 이 중 18%는 실제로 확인된 사고였고, 36%는 피해가 발생하기 전에 발견된 경우였다.
• 가장 큰 약점은 신원 관리: 모든 에이전트에 개별적이고 범위가 제한된 신원을 부여하는 기업은 약 32%에 그쳤다. 다수의 에이전트가 여전히 자격 증명을 공유하고 있어, 문제가 생겼을 때 원인 추적, 접근 차단, 권한 회수가 어려워진다.
• 고위험 에이전트 격리가 부족하다: 가장 위험도가 높은 에이전트를 격리하는 기업은 약 10곳 중 3곳뿐이다. 민감한 데이터에 접근하거나 업무 시스템에 쓰기 작업을 수행할 수 있는 에이전트라면 이러한 부족은 피해 범위를 크게 키울 수 있다.
• 보안 스택은 전용보다 차용에 가깝다: 많은 기업은 모델 제공업체와 대형 클라우드 사업자의 기존 보안 기능에 의존한다. 에이전트의 행동, 도구 호출, 권한 흐름, 실행 시점 제어를 위해 설계된 전용 보안 체계는 아직 충분하지 않다.
• 예산도 제한적이다: 에이전트 보안 지출은 전체 보안 예산 중 작은 비중에 머문다. AI를 활용하는 공격자에 맞서 방어가 충분히 따라가고 있는지에 대해서도 기업들의 판단은 엇갈린다.

의미와 영향

이번 조사에서 중요한 점은 개별 취약점 하나가 아니라 ‘에이전트 보안 격차’라는 구조적 문제다. 기업은 에이전트에 더 많은 자율성, 시스템 접근권, 데이터 권한을 부여하고 있지만, 최소 권한, 독립 신원, 실행 격리, 감사, 실시간 정책 집행 같은 기본 통제는 그에 미치지 못하고 있다.

기존 보안 체계는 주로 사람 사용자, 애플리케이션, 기기, 네트워크 경계를 중심으로 설계됐다. 그러나 에이전트는 여러 도구 호출을 이어 붙이고, 서로 다른 시스템의 권한을 조합하며, 모델이 생성한 추론 결과에 따라 행동한다. 악성 프롬프트, 오염된 컨텍스트, 잘못된 지시가 업무 흐름 전체로 번질 수 있다. 자격 증명을 공유한다면 어떤 에이전트가 위험한 행동을 했는지 확인하는 것조차 어려워진다.

기업이 해야 할 일은 에이전트를 무조건 막는 것이 아니라 새로운 기계 신원과 실행 주체로 관리하는 것이다. 각 에이전트에는 고유 신원, 제한된 권한, 회수 가능한 접근권, 감사 가능한 로그가 필요하다. 고위험 작업에는 샌드박스, 승인 절차, 단계적 격리를 적용해야 한다. AI 에이전트의 가치는 얼마나 많은 일을 자동화하느냐가 아니라, 실제 시스템 안에서 얼마나 안전하게 통제될 수 있느냐에 달려 있다.

출처: VentureBeat AI