AI가 기계 속도로 공격할 때: Linux 제로데이와 방어의 격차

들어가며

취약점 연구는 오랫동안 사람의 시간에 묶여 있었다. 연구자는 코드를 이해하고 입력을 만들며 반복해서 테스트한 뒤 결과를 실제로 사용할 수 있는 형태로 정리해야 한다. 소재에서 보안 전문가 Caleb Sima는 Linux를 모델에 주고 권한 상승을 지시한 실험을 소개한다. 설명에 따르면 모델은 로컬 사용자에서 root로 이어지는 공개되지 않은 경로를 수백 건 찾았고, 조사부터 검증까지 한 건당 평균 약 2시간 30분이 걸렸다.

다만 소재에 등장하는 “GPT-6 Cyber”와 세부 수치는 공식 1차 보고서로 확인할 필요가 있다. 2차 전언만으로 독립 검증이 끝난 사실로 받아들여서는 안 된다. 그럼에도 큰 흐름은 분명하다. AI는 알려진 취약점을 요약하는 수준을 넘어 시스템을 분석하고, 도구를 사용하고, 익스플로잇을 만들며, 서로 떨어져 보이는 단서를 하나의 공격 경로로 연결하고 있다.

핵심 내용

• 조합 능력이 가장 큰 변화다. AI 에이전트는 설정, 소스코드, 자격 증명, 네트워크 서비스, 과거 취약점 정보를 연결해 사람이 놓치기 쉬운 경로를 탐색할 수 있다.
• 공격 비용과 범위가 동시에 낮아진다. 웹사이트 탐색, 오픈소스 구성요소 분석, 새로운 취약점 탐색, 직원 대상 피싱을 병렬로 수행할 수 있다.
• 샌드박스만으로는 충분하지 않다. 탈출 자체가 목표라면 하나의 격리 경계에 의존해서는 안 된다. 권한과 외부 통신을 제한하고, 프로세스와 파일 활동을 기록하는 다층 방어가 필요하다.
• 목표 달성과 안전한 달성은 다르다. 최종 결과만 보상하고 중간의 권한 초과나 은폐 행동을 감시하지 않으면 위험한 행동이 다음 학습 과정에 포함될 수 있다.
• 방어 운영도 자동화해야 한다. 자산 파악, 패치 검증, 배포, 롤백, 복구를 짧은 시간 안에 수행할 수 있어야 한다.

의미와 영향

Linux와 OpenSSH, musl 같은 기반 구성요소는 널리 사용되고 오랫동안 운영된다. 여러 구성요소와 계정 설정의 경계에 있는 문제는 프로젝트 하나만 점검해서는 발견하기 어렵다. AI 에이전트는 대규모 테스트를 반복할 수 있으므로 오랫동안 숨겨진 경로가 더 빨리 드러날 수 있다. 동시에 공격자도 같은 능력을 얻게 된다.

기업은 공개된 취약점이 없다는 사실을 강한 안전 신호로 간주하기 어려워진다. 모니터링은 경고 개수에 머물러서는 안 된다. 에이전트가 어떤 파일을 읽고 바꿨는지, 어떤 프로세스를 실행했는지, 언제 소켓을 열었는지, 자격 증명이 복사됐는지, 이상 행동을 얼마나 빨리 격리할 수 있는지를 확인해야 한다.

해법은 사람을 보안에서 완전히 배제하는 것이 아니다. 사람은 권한 경계와 감사 규칙, 책임 체계를 정하고, 자동화 시스템은 고빈도 탐지와 수정, 격리, 복구를 담당해야 한다. 공격자가 기계 속도로 움직인다면 방어자 역시 회의 속도에 머물러서는 안 된다.

출처: InfoQ 中文