Claude 활용 연구진, OpenAI 계정 접근…AI 보안 경계의 허점 드러나

도입

“Claude가 OpenAI를 해킹했다”는 표현은 강렬하지만, 이번 사건의 핵심은 한 모델이 다른 모델의 핵심 인프라를 직접 무너뜨렸다는 데 있지 않다. Anthropic이 보안 전문가에게 제공한 도구를 활용한 연구진이 OpenAI의 주변 시스템에 존재한 설정 문제를 출발점으로 삼아 인증 정보와 직원 계정의 연결고리를 따라간 것이 핵심이다. AI 기업의 공격 표면이 모델 자체를 넘어 포럼, 로그인 시스템, 코드 저장소로 넓어지고 있다는 의미다.

핵심 내용

• Hacktron AI의 연구원 3명은 취약점 발굴 작업의 일환으로 Anthropic의 보안용 도구를 사용했다.
• OpenAI 커뮤니티 포럼은 제3자 서비스인 Discourse에서 운영됐고, 해당 설정의 결함이 진입점이 됐다.
• 연구진은 내부 로그인 정보를 거쳐 OpenAI 직원의 ChatGPT 계정에 접근했다.
• 이 계정은 GitHub의 내부 코드와 연결돼 있어 소프트웨어 정보를 읽고 변경 사항을 제안할 수 있었다.
• OpenAI는 문제를 해결했다고 밝혔으며, 연구진에게 6500달러의 버그 바운티를 지급했다.

왜 이 경로가 중요한가

공개된 정보만으로는 Claude가 OpenAI의 핵심 모델 인프라를 직접 뚫었다고 볼 수 없다. 대신 이번 사례는 외부 커뮤니티 서비스의 작은 약점이 내부 인증과 코드 저장소로 이어지는 공격 사슬의 첫 고리가 될 수 있음을 보여준다.

포럼, 싱글 사인온, 직원용 ChatGPT, GitHub가 각각 적절하게 관리되는 것처럼 보여도 권한이 과도하게 연결돼 있으면 위험은 커진다. 따라서 AI 기업은 최소 권한 원칙, 인증 정보 보호, 계정과 네트워크의 분리, AI 도구의 코드 접근에 대한 지속적인 감사를 함께 강화해야 한다. 모델 방어만 개선해서는 충분하지 않다.

AI 개발 활용이 만드는 추가 위험

이번 공개는 Anthropic이 발표한 자체 연구개발 데이터와도 시점이 겹친다. Anthropic은 Claude가 연구개발 작업을 “주도한” 비중이 3월 1%에서 26%로 늘었다고 밝혔다. 다만 조사 대상 작업이 완전히 자율적으로 진행된 것은 아니며, 90%의 작업에서는 AI가 사람과 협업했다고 설명했다.

AI가 코드 작성, 실험 수행, 모델 개발에 더 많이 참여하면 생산성은 높아질 수 있다. 그러나 프롬프트 인젝션, 잘못된 권한 설정, 계정 탈취가 발생했을 때 피해 범위도 넓어진다. 보안 평가는 모델이 무엇을 할 수 있는지만이 아니라 어떤 계정과 도구에 접근할 수 있는지, 신뢰 경계를 넘을 수 있는지, 이상 행동을 사람이 신속히 중단할 수 있는지를 확인해야 한다.

OpenAI의 수정 및 보상금 지급은 협력적 취약점 공개의 가치를 보여준다. 동시에 앞으로의 과제는 제3자 공급망, ID 관리, 코드 권한, AI 에이전트의 도구 사용 범위를 하나의 보안 영역으로 묶어 관리하는 것이다.

출처: Ars Technica AI