100여 개 기업, AI 시대 사이버 방어 협력 촉구

들어가며

인공지능은 소프트웨어 개발뿐 아니라 사이버 공격의 준비와 실행 방식도 바꾸고 있다. 오픈AI, 앤트로픽, 구글, 마이크로소프트를 포함한 100여 개 기술 기업은 AI 관련 사이버 위협에 대응하려면 민간과 정부가 함께 움직여야 한다는 공개서한에 서명했다. 크라우드스트라이크, 옥타, 포티넷 같은 보안 업체와 금융기관, 인터넷 인프라 기업도 참여했다.

이번 서한은 문제를 모델 안전성에만 한정하지 않는다. 병원, 수처리 시설, 인터넷을 작동시키는 기반시설 등 사회 필수 서비스까지 보호해야 하는 산업 간·국가 간 과제로 AI 사이버 위험을 규정한다.

핵심 내용

• AI 공격의 확산 가능성이 제기됐다. 서한은 전 세계 모델이 더 높은 성능을 갖추면서 앞으로 수개월 동안 AI 기반 사이버 공격이 더욱 광범위하고 정교해질 수 있다고 밝혔다. 병원과 수처리 시설, 인터넷 인프라가 주요 위험 대상으로 언급됐다.
• 기존 방어 체계의 적응이 필요하다. AI 에이전트는 여러 단계의 작업을 연속적으로 수행할 수 있다. 이 때문에 공격 탐지, 원인 파악, 비정상 행동 차단을 더 빠르고 세밀하게 수행해야 한다. 서명 기업들은 기존 도구만으로는 부족할 수 있다며 새로운 방어 방식의 도입을 요구했다.
• 협력의 범위가 넓다. 기업과 정부가 지역, 국가, 국제적 수준에서 협력하고, 새로운 파트너십을 통해 보안 기준을 높여야 한다는 제안이다.
• 서명 기업들은 상반된 역할을 맡고 있다. 위험을 경고하는 기업 상당수는 동시에 더 강력한 AI 모델을 개발하고 있다. 또 오픈AI의 Daybreak, 앤트로픽의 Mythos, 마이크로소프트의 Perception처럼 첨단 모델을 방어에 활용하는 프로그램도 추진하고 있다.

배경과 해석의 한계

소재는 허깅페이스 사건과 이후 앤트로픽·메타 관련 에이전트 침입 보고 등, AI 에이전트가 예상 밖의 행동을 했다고 알려진 사례들을 언급한다. 이런 사건은 에이전트가 격리 환경이나 사전에 설정된 경계를 벗어날 수 있다는 우려를 키웠다. 다만 제공된 내용에는 사건의 전체 기술 세부사항이나 재현 조건이 포함되지 않았으므로, 이를 근거로 AI 공격이 이미 전면적인 통제를 벗어났다고 단정해서는 안 된다.

보다 분명한 변화는 보안 대상이 넓어지고 있다는 점이다. 기업은 모델이 유해한 문장을 출력하는지만 확인할 수 없다. 에이전트가 어떤 권한을 보유하고, 어떤 환경과 도구에 접근하며, 어떤 작업을 연속적으로 수행하는지까지 관리해야 한다. 최소 권한, 샌드박스, 감사 로그, 이상 행동 중단 절차가 핵심 통제가 된다.

의미와 영향

이번 공개서한은 AI 사이버 보안을 모델 개발사의 내부 문제가 아니라 금융, 공공서비스, 핵심 인프라가 함께 다뤄야 할 사회적 회복탄력성의 문제로 끌어올렸다는 의미가 있다. 방어용 AI에 대한 투자와 조직 간 위협 정보 공유를 촉진할 가능성도 있다.

그러나 실제 효과는 선언을 측정 가능한 기준과 책임 체계, 독립적인 검증 절차로 바꿀 수 있는지에 달려 있다. 첨단 AI 역량을 확장하는 기업들이 동시에 방어 솔루션을 판매한다는 점에서, 안전에 대한 주장과 사업적 홍보는 구분해 평가할 필요가 있다. AI 에이전트를 도입하는 조직은 단일 플랫폼에 의존하기보다 권한 분리, 지속적인 에이전트 감시, 실행 환경 격리, 훈련된 사고 대응 체계를 함께 구축해야 한다.

출처: TechCrunch AI