미·중 AI 안전 경보 채널, 경쟁 구도가 신뢰를 약화할 수 있다

서론

인공지능 분야의 양대 강국인 미국과 중국이 새롭게 등장하는 AI 위험을 직접 논의할 통로를 마련하려 하고 있다. 미국 재무장관 스콧 베선트에 따르면 양국은 한 국가의 AI 시스템이 위협을 일으키거나 예측하기 어려운 행동을 보일 때 상대국에 경고를 보내는 ‘AI 안전 통보 체계’를 논의했다. 이 채널은 공통 목표에 대한 견해를 교환하는 데도 사용될 수 있다.

위기 상황에서 연락을 유지한다는 점에서는 의미 있는 출발처럼 보인다. 그러나 제안이 나온 시점은 미국의 대중 반도체 규제, 지식재산권 공방, 그리고 미국이 AI 경쟁에서 승리해야 한다는 정치적 발언이 겹치는 때다. 안전 협력이 전략 경쟁의 또 다른 수단으로 비칠 가능성이 핵심 쟁점이다.

핵심 내용

• 구체적인 운영 설계가 부족하다. 보도에 따르면 이 계획에는 경고의 긴급성과 신뢰도를 판단할 기술 전문가가 포함되지 않을 수 있다. 경고를 전달하는 것과 실제 위험을 분석하고 대응 우선순위를 정하는 것은 별개의 문제다.
• 중국은 공개적으로 동의하지 않았다. 도널드 트럼프 대통령이 미국의 AI 우위를 강하게 주장했음에도 중국은 회담에 불참하지 않은 것으로 보인다. 그러나 제안된 통보 체계를 공식적으로 인정하지도 않아 정치적 신뢰가 낮다는 점을 보여준다.
• 기술 경쟁이 안전 대화를 압박한다. 미국은 중국의 AI용 반도체와 하드웨어 접근을 제한하는 수출 통제를 확대하고 있다. 미 법무부는 중국 주요 AI 기업들이 미국의 프런티어 연구소에서 기술을 훔쳤다고 주장했고, 중국은 이를 반박했다.
• 공동 규칙 없이는 상징에 그칠 수 있다. 전문가들은 위험 분류, 통보를 발동할 조건, 대응 절차, 정기적인 검토 방식에 대한 합의가 필요하다고 말한다. 이러한 기준이 없으면 채널은 실제 안전 도구가 아니라 외교적 제스처가 될 수 있다.

그래도 협력이 필요한 이유

양국의 정치 체제와 AI에 대한 인식이 달라도 공동의 위험은 존재한다. 해커나 테러 조직이 AI를 이용해 핵심 인프라를 공격하는 문제는 미국과 중국 모두에 해당한다. 양국이 서로 제공할 수 있는 경험도 있다. 조지타운대 신흥기술·안보 연구센터의 샘 브레스닉은 중국이 AI 모델 감사를 정기적으로 수행해 왔으며, 프런티어 모델 감사를 막 시작한 미국에 참고가 될 수 있다고 설명했다.

다만 위험을 바라보는 방식은 다르다. 미국에서는 통제하기 어려운 고성능 AI에 대한 우려가 두드러지는 반면, 중국에서는 국가가 AI를 관리할 수 있다는 인식이 상대적으로 강하다. 중국의 역량이 미국 수준에 가까워지면 논의가 바뀔 수 있지만, 현재는 공동의 안전 개념을 정립하는 것부터 쉽지 않다.

의미와 전망

이번 채널의 당장 가능한 역할은 완성된 국제 거버넌스를 만드는 것이 아니라 위기 때 연락을 끊지 않는 데 있다. 군사적 위험, 모델의 중대한 실패, 대규모 악용을 제대로 판단하려면 기술 전문가가 참여하고 정보 처리 과정에 대한 신뢰가 확보돼야 한다.

스탠퍼드 디지털경제연구소의 앨빈 왕 그레일린은 대화를 이어가면 양국이 AI 위험 관리에 협력이 필요하다는 점을 깨달을 수 있다고 본다. 반면 브레스닉은 중국이 ‘AI 안전’을 중국의 기술 발전을 억제하기 위한 표현으로 받아들이면 통보 체계가 장기적으로 무용해질 수 있다고 경고한다.

미국은 전략적 우위를 유지하면서 안전장치를 요구하고, 중국에는 첨단 하드웨어 접근 제한을 적용한 채 안전 정보 공유를 기대하고 있다. 이 모순을 연락 채널 하나로 해결할 수는 없다. AI 안전을 대중 기술 봉쇄와 어느 정도 분리할 수 있는지가 제안의 성패를 좌우할 전망이다.

출처: Ars Technica AI