AI 규제 논쟁 재점화, 업계 공감대는 다시 갈라졌다

들어가며

프런티어 AI 개발을 늦춰야 하는지를 둘러싼 논쟁이 다시 충돌 국면으로 들어섰다. Anthropic의 다리오 아모데이 CEO가 세 단계의 감속 방안을 내놓자, OpenAI의 샘 올트먼 CEO와 Google DeepMind 공동 창업자 데미스 허사비스, 일론 머스크는 적어도 일부 내용에 공감하는 듯한 모습을 보였다. 그러나 이 잠정적 합의는 기업 간 경쟁, 정치적 우선순위, 규제 주체에 대한 견해 차이와 부딪히며 빠르게 약해지고 있다.

핵심 내용

• Anthropic은 공동 안전 체계를 제안했다. 아모데이 CEO는 AI 연구소 안에 제3자 평가자를 배치하고, 미국 내 기업들이 안전 문제에 협력하며, 정부 지원을 바탕으로 국제 협약을 모색하자고 주장했다.
• OpenAI는 국가 차원의 기준을 원한다. OpenAI의 글로벌 업무 책임자는 기업이 자체적으로 책임을 져야 한다고 인정하면서도 정부 역시 중요한 역할을 해야 한다고 밝혔다. 그는 프런티어 AI에 적용할 의무적 국가 안전 기준을 촉구했다.
• Meta는 연구소의 자율성을 강조한다. 마크 저커버그 CEO는 각 연구소가 모델을 안전하게 훈련할 동기와 능력을 갖고 있으며, 필요한 개발 속도도 스스로 정할 수 있다고 주장했다. 업계가 공동 출자하는 독립 규제기관 구상이 주요 기업의 지지를 얻지 못했다는 보도 역시 업계 분열을 보여준다.
• 미국 정부의 입장은 흔들리고 있다. 트럼프 대통령은 AI 안전 위기에 대한 우려를 “사기”라고 부르며 정부가 이미 충분한 형사·규제 권한을 갖고 있다고 강조했다. 그러나 이전 행정부의 AI 관련 행정 조치와 첨단 모델의 사전 테스트 같은 사례는 정부가 개입을 완전히 배제하는 것은 아님을 보여준다.
• 종말론이 현실의 위험을 가릴 수 있다. 전직 신흥기술 정책 담당자인 닉 리스는 AI 안전을 로봇의 반란만으로 설명해서는 안 된다고 지적했다. 오류, 악용, 개인정보 침해, 해킹, 시스템 차원의 실패도 이미 현실적인 정책 과제다.

의미와 영향

핵심 쟁점은 AI를 규제할지 여부에 그치지 않는다. 누가 규제하고, 어떤 위험을 대상으로 하며, 어느 정도의 의무를 부과할지가 더 본질적인 문제다. 자율 규제는 기술 변화에 빠르게 대응할 수 있지만, 기업이 동시에 시장 경쟁자라는 점에서 이해충돌 우려를 피하기 어렵다. 정부 규제는 시험, 보고, 책임에 관한 공통 기준을 만들 수 있지만, 선거 주기와 산업 경쟁, 국가적 주도권 확보에 영향을 받을 수 있다.

금융업계와 비슷한 민간 규제기관은 전문성과 기동성을 확보할 가능성이 있다. 그러나 실제로 독립성을 보장할 수 있는지, 규정을 지키게 할 권한을 갖는지는 별도의 문제다. 대중의 우려도 미래의 초지능에만 집중돼 있지 않다. AI가 만든 유해한 결과, 보안 실패, 개인정보와 권리 침해, 소수 기업에 모델과 인프라가 집중되는 현상이 더 직접적인 걱정으로 떠오르고 있다.

정책을 바꿀 기회는 아직 남아 있지만, 최종 제도가 Anthropic이나 OpenAI가 원하는 형태로 정리될 가능성은 크지 않다. 필요한 것은 투명한 평가, 책임 추적, 실패 시 작동하는 보완 장치다. 빠르게 바뀌는 기술을 한 기업이나 한 정치 지도자의 판단만으로 안전하게 관리하기는 어렵다.

출처: The Verge AI