미국, 중국 AI 기업 6곳의 프런티어 모델 대규모 증류 의혹 제기

미국 정부가 대규모 언어 모델의 ‘증류’ 문제를 기업 간 기술 분쟁을 넘어 국가안보와 산업정책의 사안으로 다루기 시작했습니다. 국가안보국(NSA), 사이버보안·인프라보안국(CISA), 연방수사국(FBI)은 공동 발표에서 DeepSeek, 문샷AI, 알리바바, 미니맥스, 스텝펀, Z.AI가 적어도 2024년 말부터 미국 프런티어 모델의 능력을 추출했다고 주장했습니다. 이들 기관은 중국 정부의 인지가 있었을 가능성도 언급했지만, 소재에 담긴 내용은 미국 기관의 주장이지 사법 절차로 확정된 사실은 아닙니다.

핵심 내용

• 여러 미국 모델이 표적이 됐다는 주장. 기관들은 Claude, GPT, Gemini, Grok의 여러 버전을 언급했습니다. DeepSeek는 폭넓은 기능을, 문샷AI는 여러 모델을 번갈아 사용하며 미세조정, 강화학습, 소프트웨어 개발, 수학 능력을 학습한 것으로 지목됐습니다.
• 대규모 호출이 핵심 수법. 고급 구독을 대량 구매하거나 공유하고, 가짜 계정과 프록시를 이용해 지역 제한을 우회한 뒤 유사한 프롬프트를 수천 회에서 수백만 회까지 보냈다는 설명입니다. 수집된 답변은 합성 훈련 데이터로 활용돼 프런티어 모델 개발에 필요한 시간과 비용을 줄이는 데 쓰였을 가능성이 제기됐습니다.
• 프롬프트 인젝션도 거론. 공격자가 탈옥형 프롬프트로 모델에 숨겨진 단계별 추론이나 답변 생성 방식을 설명하도록 유도했다는 내용입니다. 다만 소재에는 독립적인 기술 감사 결과가 제시되지 않았습니다.
• 접근 통제 강화 요구. 미국 기관들은 본인 확인 강화, 비정상 계정과 네트워크 감시, 구독 수준과 사용량의 불일치 탐지 등을 권고했습니다.

논란이 될 수 있는 ‘비밀 강등’

기관들은 증류 공격이 의심될 때 답변의 추론 방식을 바꾸거나 추론 깊이를 낮추고, 출력에 일정한 불일치를 넣거나, 이용자에게 알리지 않은 채 성능이 낮은 모델로 전환할 수 있다고 제안했습니다. 공격자가 답변에서 얻는 훈련 데이터의 가치를 떨어뜨리려는 목적입니다.

하지만 이런 방어책을 정확하게 적용하기는 어렵습니다. 기관들은 중국 기업이 자동 품질검사 시스템으로 모델 성능 변화를 빠르게 감지할 수 있다고 설명했습니다. 반대로 오탐이 발생하면 연구자, 개발자, 기업 고객이 예고 없이 더 짧은 답변이나 제한된 기능을 받게 될 수 있습니다. 보안 조치가 예측 정확도와 업무 효율, 사용자 경험을 떨어뜨릴 가능성도 있으며, 미국 기관 역시 보안과 서비스 품질 사이의 절충이 필요하다고 인정했습니다.

의미와 남은 쟁점

프런티어 AI 경쟁은 알고리즘과 연산 자원만의 경쟁에서 API 접근 관리, 계정 검증, 데이터 출처, 기업 간 정보 공유를 둘러싼 경쟁으로 확대되고 있습니다. 모델 제공업체의 API는 상품의 접점인 동시에 경쟁자가 능력 샘플을 대규모로 수집하는 통로가 될 수 있습니다. 이용자 입장에서는 강력한 신원 확인과 통보 없는 모델 전환이 개인정보와 투명성 문제를 낳습니다.

미국 기관들은 기업과 동맹국이 공격 징후를 공유해 개별 이상 현상을 단순한 서비스 장애로 처리하지 않기를 원하고 있습니다. 그러나 소재가 다루는 시점까지 지목된 중국 기업과 표적이 됐다는 미국 모델 제공업체들은 즉각적인 답변을 내놓지 않았습니다. 실제로 조직적인 무단 증류가 어느 정도 이뤄졌는지, 정부 차원의 공조가 있었는지는 추가 증거와 독립적인 검증이 필요합니다.

출처: Ars Technica AI