OpenAI·Anthropic·Google, 수주간 AI 안전성 논의 확인

들어가며

프런티어 AI 기업들의 안전성 협력이 비공개 접촉을 넘어 공개적인 정책 의제로 이동하고 있다. OpenAI의 글로벌 정책 책임자 크리스 레헤인은 기자들에게 OpenAI가 Anthropic, Google DeepMind와 AI 안전성에 대해 수주 동안 협의해 왔다고 밝혔다. 이 사실이 알려진 시점은 미국 정부와 주요 고문들이 AI의 재앙적 위험을 낮게 평가하고, 중국과의 경쟁에서 우위를 유지하는 일을 더 중요한 목표로 내세우는 상황과 겹친다.

핵심 내용

• 세 기업이 지속적인 대화를 인정했다. 레헤인은 공식적인 연합이나 규제기관이 출범했다고 말하지 않았다. 다만 세 기업이 AI 안전성을 놓고 의견을 교환하고 있다는 점은 인정했으며, 업계 지도자들이 물밑에서 접촉해 왔다는 기존 보도를 뒷받침했다.
• 제3자 평가가 공통 의제로 부상했다. Anthropic의 다리오 아모데이 최고경영자는 프런티어 AI 업계가 협력하고 개발 속도를 늦춰 재앙적 위험을 피해야 한다고 주장했다. OpenAI의 샘 올트먼 최고경영자도 Anthropic과 함께 제3자 평가자를 도입해 안전성을 감시하겠다고 밝혔다.
• 업계 표준기구 구상도 보도됐다. The Information은 세 기업이 AI 업계 표준기구를 만들기 위해 협력하고 있다고 보도했다. Google DeepMind의 데미스 허사비스 최고경영자는 앞서 고도화된 모델을 심사하고 위험이 커질 경우 업계 전체의 대응을 조정할 수 있는 감독기구를 미국이 마련해야 한다고 촉구했다. 다만 현재 해당 기구가 공식 출범했다는 내용은 확인되지 않았다.
• 협력에는 반독점 문제가 따른다. 경쟁사들이 모델 개발과 배포를 조정하면 경쟁을 제한했다는 의심을 받을 수 있다. 아모데이는 안전 협력에 한정한 정부의 좁은 범위 면제를 제안했지만, 레헤인은 면제가 필요하지 않다고 말한 것으로 전해졌다.
• OpenAI는 독립 검증을 지지한다. 레헤인은 주요 프런티어 연구소가 “독립 검증 조직”의 접근을 허용하도록 하는 FRONTIER Act 조항을 OpenAI가 지지한다고 밝혔다.

의미와 영향

이번 논의의 의미는 세 기업이 구속력 있는 개발 중단이나 감속에 합의했다는 데 있지 않다. 안전성이 각 회사가 개별적으로 정의할 문제가 아니라, 경쟁 기업들이 공동으로 다뤄야 할 기반 과제가 되고 있다는 데 있다. 기업마다 평가 기준이 다르면 외부 기관은 여러 모델의 안전성을 비교하기 어렵다. 반대로 경쟁사들이 기술 및 사업 정보를 지나치게 공유하면 경쟁법 심사를 받을 수 있다.

제3자 평가와 공통 표준은 양쪽 요구를 절충하는 방법이 될 수 있다. 기업들은 성능과 제품을 두고 경쟁하면서도 비교 가능한 기준에 따라 외부 검사를 받을 수 있기 때문이다. 그러나 평가기관의 자금 출처, 모델 접근 권한, 기밀정보 보호 방식, 결과 공개 범위가 신뢰도를 좌우한다. 독립성과 투명성이 부족하면 표준기구는 업계의 자기 인증 장치에 그칠 수 있다.

정책 환경은 이 과정을 더 복잡하게 만든다. 트럼프 대통령은 AI 안전 우려를 일축하고 개발을 늦추면 중국에 우위를 내줄 수 있다고 주장했다. AI 고문 데이비드 색스 역시 AI의 실존적 위험에 대한 우려가 과장됐다고 말했다. 기업들은 프런티어 AI가 책임 있게 개발된다는 점을 보여주는 동시에, 안전 심사가 혁신과 경쟁을 억누르는 수단이 되지 않는다는 점도 설명해야 한다. 앞으로의 관건은 비공개 대화를 투명하고 검증 가능하며 법적으로 지속 가능한 규칙으로 전환할 수 있는지다.

출처: TechCrunch AI