AI는 속도를 늦춰야 하나: 안전을 둘러싼 기업과 정치권의 충돌

들어가며

프런티어 인공지능 개발은 이제 속도를 늦춰야 할까. 앤트로픽 CEO 다리오 아모데이가 AI 최전선의 발전에 일정한 속도 조절이 필요하다는 장문의 글을 내놓으면서, AI 업계 경영진과 미국 정치권의 반응이 잇따랐다. 찬성 측은 모델이 강력해질수록 배포 전에 안전성 검증과 감독을 위한 시간이 필요하다고 말한다. 반대 측은 개발 속도를 늦추면 중국과의 기술 경쟁에서 미국이 뒤처질 수 있다고 우려한다.

핵심 쟁점은 모델 훈련을 완전히 중단할지 여부가 아니다. 통제 상실, 악용, 권력 집중의 위험을 줄이면서도 기술 발전의 동력을 유지할 수 있는지가 문제다.

아모데이의 세 가지 제안

아모데이는 다음 세 가지 방안을 제시했다.

• 기업의 안전 약속과 실제 관행을 검증하고 사고를 보고할 수 있는 독립적인 제3자 평가기관을 도입한다.
• 민주국가의 프런티어 AI 기업들이 안전 기준과 개발 한계에 대해 조율한다.
• 가능한 범위에서 민주국가와 권위주의 국가 정부가 AI 발전 속도에 관해 협력한다.

그는 속도 조절이 모델 훈련이나 기술 진보의 중단을 뜻하지 않는다고 강조했다. 기업이 모델 정렬과 보호장치를 마련할 시간을 확보하고, 외부 평가자가 이를 확인하도록 하자는 의미다. 앤트로픽은 우선 제3자 평가 도입을 자체적으로 추진하겠다고 밝혔다.

AI 업계의 지지와 이견

오픈AI CEO 샘 올트먼은 프런티어 개발의 속도를 조절해야 한다는 주장에 동의하고, 독립 평가자 도입을 지지했다. 프런티어 AI에 일관된 안전 요건을 적용하는 연방 차원의 체계에도 긍정적인 태도를 보였다. 다만 그가 말한 속도 조절은 중단이 아니라, 기존보다 느린 발전을 의미한다.

올트먼은 AI가 인류로부터 미래에 대한 통제권을 빼앗는 경우와 권력이 지나치게 집중되는 경우를 심각한 실패 시나리오로 꼽았다. 구글 딥마인드 공동창업자 데미스 허사비스도 아모데이가 올바른 방향을 제시했다고 평가했지만, 구체적인 제도 설계는 더 논의해야 한다고 말했다. 일론 머스크 역시 지지 의사를 밝혔다.

이러한 반응은 일부 업계 지도자들이 더 강한 안전 거버넌스를 받아들일 준비가 됐음을 보여준다. 그러나 지지를 받는 해법은 전면적인 모라토리엄보다 추가 검증, 공통 기준, 배포 속도 조절에 가깝다. 전 백악관 AI·암호화폐 담당자 데이비드 색스는 추진해도 된다고 말하면서도, 기업의 규제 요구가 순수하게 이타적인지에는 의문을 제기했다. 메타의 전 수석 AI 과학자 얀 르쿤은 안전 경고가 과장됐다며 비판했다.

워싱턴의 안전과 경쟁 사이

도널드 트럼프 대통령은 AI 개발 감속에 반대하며 미국이 AI 경쟁에서 승리해야 한다고 주장했다. 부통령 JD 밴스도 최첨단 기업들이 정부에 규제를 요청하는 모습을 의심하며, 경쟁을 제한하기 위한 ‘트로이의 목마’가 될 수 있다고 지적했다.

하원의장 마이크 존슨은 절충적인 입장을 보였다. 중국이 미국을 추월할 수 있으므로 모라토리엄은 받아들일 수 없지만, 모델이 안전해야 한다는 점도 인정했다. 반면 버니 샌더스와 카멀라 해리스 전 부통령은 책임 있는 감속을 지지했다. 피트 부티지지 전 교통장관은 안전장치와 규칙, 제한뿐 아니라 통제 불능 AI를 멈출 수 있는 장치도 필요하다고 말했다.

전 연방거래위원회 위원장 리나 칸은 위험하거나 충분히 검증되지 않았거나 결함이 있는 제품을 다룰 기존 법률이 이미 존재한다고 강조했다. 새로운 법체계를 논의하더라도 현행 집행 수단을 잊어서는 안 된다는 주장이다.

왜 중요한가

이번 논쟁은 세 가지 변화를 보여준다. 첫째, 프런티어 AI 안전은 기업 윤리의 문제에서 국가 정책의 문제로 이동했다. 둘째, 선택지가 무제한 개발과 전면 중단만은 아니다. 제3자 평가, 사고 보고, 공통 기준 같은 중간 해법이 정책의 출발점이 될 수 있다. 셋째, 중국과의 경쟁이 안전 규제 논의 전체에 강한 영향을 미치고 있다.

앞으로 중요한 것은 누가 ‘감속’에 찬성한다고 말하느냐가 아니다. 기업의 약속을 검증할 수 있고, 더 빠른 개발을 요구하는 경쟁 압력에도 견딜 수 있는 투명하고 실행 가능한 규칙을 만들 수 있는지가 핵심이다.

출처: The Verge AI