Anthropic CEO “오픈 웨이트 반대 아니다”…중국 AI 역량에는 경계

도입

Anthropic 창업자이자 CEO인 다리오 아모데이가 오픈 웨이트 AI 모델을 둘러싼 논란에 직접 입장을 밝혔다. 그는 Anthropic이 중국산 오픈 웨이트 모델 또는 오픈 웨이트 모델 전반의 금지를 지지한다는 업계의 해석은 사실이 아니며, 회사가 그런 금지를 주장한 적은 없다고 설명했다.

이번 발언은 Nvidia CEO 젠슨 황이 X에 공개서한을 공유한 뒤 나왔다. 해당 서한에는 Hugging Face, Meta, Microsoft, Mistral, Nvidia 등 여러 AI 기업과 조직이 참여해, 정책 입안자들이 오픈 웨이트 AI 모델에 대해 광범위하고 성급한 제한을 가하지 말 것을 촉구했다. 서한이 중국을 직접 언급하지는 않았지만, 논의의 중심은 중국 AI 연구소의 역량 향상, 지식재산 침해 의혹, 그리고 미국 모델을 학습 대상으로 삼는 증류 방식으로 옮겨갔다.

핵심 내용

• 오픈 웨이트와 중국 리스크는 별개라는 입장: 아모데이는 위험한 능력이 없는 오픈 웨이트 모델은 공공재가 될 수 있다고 봤다. 기업, 개발자, 연구자에게 가치를 제공하며 주요 비용은 실행에 필요한 컴퓨팅 자원이라는 설명이다.
• 핵심 우려는 권위주의 정부의 고성능 AI 확보: 그는 권위주의 정부가 미국보다 강력한 모델을 구축해 장기적 군사 우위나 국내 억압 수단으로 활용할 가능성을 경계했다.
• 중국은 유일한 대상은 아니지만 가장 유능한 행위자: 아모데이는 중국 공산당만을 우려하는 것은 아니라고 하면서도, 권위주의 정부 중 가장 역량이 큰 주체로 중국을 언급했다.
• 고성능 오픈 웨이트는 통제가 어렵다: 모델 가중치가 한 번 공개되면 회수하기 어렵고, 사용 방식에 대한 감시나 안전장치 적용도 제한된다. 그는 사이버 보안뿐 아니라 생물학적 공격 가능성도 AI 위험의 일부로 봤다.
• 정책은 능력과 오용 경로를 겨냥해야 한다: 그는 중국의 첨단 칩 접근 제한을 지지하고, 증류를 통한 모델 능력이나 지식재산 탈취에 대해 공식적으로 대응해야 한다고 주장했다.
• 글로벌 안전 테스트 필요성: 가장 강력한 모델에 대해서는 출신 국가나 오픈·폐쇄 여부와 무관하게 안전 테스트를 적용하고, 상대적으로 능력이 낮은 스타트업·학계 모델은 제외하는 방식이 바람직하다고 봤다.

의미와 영향

아모데이의 설명은 오픈 모델 생태계의 가치와 지정학적 AI 안보 위험을 분리하려는 시도다. 오픈소스 지지자들은 공개 모델이 투명성, 경쟁, 방어 역량을 높인다고 주장한다. 반면 안전을 중시하는 쪽은 최첨단 모델의 가중치가 공개되면 악용을 막기 어렵다고 본다.

그의 입장은 전면 금지보다는 능력 기반 규제에 가깝다. 덜 위험한 오픈 모델은 혁신과 연구에 도움이 되지만, 특정 수준 이상의 고성능 모델에는 테스트, 칩 통제, 국제적 규범이 필요하다는 것이다.

특히 그는 AI 기반 생물무기 방지와 같은 제한된 영역에서는 중국도 협력할 이해관계가 있을 수 있다고 언급했다. 이는 AI 경쟁이 격화되는 가운데서도, 최악의 악용을 막기 위한 최소한의 국제 공조 가능성을 시사한다.

출처: TechCrunch AI