YC 총장, AI 모델 ‘증류’ 규제 강화 요구에 반대

들어가며

대규모 언어 모델의 증류를 둘러싼 논쟁이 기술 업계를 넘어 규제와 산업정책의 영역으로 번지고 있습니다. Anthropic은 자신들이 ‘불법 증류 공격’이라고 부르는 행위를 미국 규제당국이 억제해야 한다고 주장합니다. 반면 Y Combinator 총장 Garry Tan은 CNBC 인터뷰에서 증류가 이뤄진다는 이유만으로 새로운 규제를 도입해서는 안 된다는 정반대의 입장을 내놓았습니다.

핵심 내용

• Anthropic은 9월 발표한 두 번째 위협 인텔리전스 보고서에서 일부 중국 연구소가 신원 은폐, 기만, 도난된 인증정보 등을 통해 최첨단 모델의 능력을 얻었다고 주장했습니다.
• Anthropic의 Dario Amodei CEO는 앞서 미국 규제당국에 관련 증류 행위를 단속해 달라고 공개적으로 요구했습니다.
• Tan은 미국 AI 연구소 역시 모델 증류를 수행할 수 있어야 한다며, 규제로 이 기술을 광범위하게 억제하는 데 반대했습니다.
• 쟁점은 증류의 허용 여부에 그치지 않고, 이용 권한, 접근통제, 영업비밀, 경쟁, 국가안보까지 이어집니다.

증류가 논란이 되는 이유

모델 증류는 일반적으로 더 강력한 모델의 출력을 활용해 다른 모델을 학습시키고, 더 낮은 비용으로 일부 능력을 재현하는 방법을 뜻합니다. 모델 개발사 입장에서는 막대한 학습 비용으로 만든 경쟁 우위가 약화될 수 있습니다. 접근 제한을 우회하거나 신원을 속이고 도난된 인증정보를 사용했다면, 문제는 기술적 모방에서 보안과 규정 준수의 문제로 넘어갑니다.

그렇다고 증류 자체가 항상 불법인 것은 아닙니다. 증류는 연구, 모델 압축, 배포 효율화, 소형 모델로의 능력 이전 등에 활용될 수 있습니다. 실제로 중요한 질문은 어떤 데이터와 출력물을 합법적으로 사용할 수 있는지, 이용약관이 어느 정도로 명확한 근거가 되는지, 국경을 넘는 행위의 책임을 어떻게 판단할지입니다. 이번 자료에는 보고서 전문이나 증거의 세부 내용이 포함되지 않았으므로, 각 주장에 대한 사실관계와 법적 성격을 단정할 수는 없습니다.

이번 대립이 보여주는 것

Anthropic은 최첨단 모델의 능력을 보호하고 모델 접근에서 발생할 수 있는 위험을 줄이는 데 무게를 둡니다. Tan은 기술 확산과 경쟁을 더 중시하며, 광범위한 규제가 미국 기업의 연구와 응용을 위축시킬 수 있다고 우려합니다. 이는 ‘핵심 능력 자산을 보호해야 한다’는 정책 논리와 ‘규제가 혁신을 막아서는 안 된다’는 논리의 충돌입니다.

증류를 일괄적으로 금지하면 정당한 연구와 엔지니어링까지 위축될 수 있습니다. 반대로 아무런 경계가 없다면 인증정보 남용, 자동화된 출력 수집, 영업비밀을 둘러싼 분쟁이 커질 수 있습니다. 앞으로는 허가된 모델 압축과 연구를 기만적인 접근 행위와 구분하고, 이용 허가, 감사, 로그 보존, 책임 판단 기준을 구체화하는 접근이 필요합니다. AI 규제의 초점은 모델 공개 방식에서 모델 능력이 어떻게 이용되고 이전되며 재사용되는지로 확장되고 있습니다.

출처: OSChina