마이크로소프트 사장 “영국이 글로벌 AI 규제를 이끌기에 가장 적합”

들어가며

생성형 AI의 발전 속도가 빨라지면서 AI 거버넌스 논의의 초점도 추상적인 원칙에서 구체적인 안전 의무로 이동하고 있다. 마이크로소프트의 브래드 스미스 사장은 BBC 팟캐스트에서 AI가 유용한 도구인 동시에 무기가 될 수 있다고 말했다. AI가 세계 사이버보안에 미치는 위험을 고려하면, 국제적인 안전 규칙을 마련할 시점이 이미 왔다는 주장이다. 그는 미국이나 유럽연합보다 영국이 글로벌 규제 조정을 이끌기에 더 적합하다고도 평가했다.

핵심 내용

• 자율규제만으로는 부족하다. 미국 정부가 주도한 논의에서 여러 대형 기술 기업은 독립 감사기관과 협력하겠다는 ‘도덕적 구속력’의 문서에 서명했다. 스미스 사장은 이를 긍정적인 출발점으로 보면서도 법적 규제를 대신할 수는 없다고 지적했다. 자발적으로 참여할 가능성이 높은 기업은 이미 비교적 책임감 있게 행동하는 기업이기 때문이다.
• 영국은 안전성 평가 기반을 갖추고 있다. 2023년 설립된 영국 AI 안전연구소는 미국의 프런티어 AI 연구소로부터 출시 전 주요 모델에 접근해 안전성 테스트를 진행해왔다. 이 같은 모델 평가 경험은 영국의 국제적 영향력을 높이는 요소다.
• 실행 가능한 의무가 필요하다. 스미스 사장은 AI 에이전트가 시스템을 침해하거나 통제에서 벗어났을 때 관련 기관에 알리도록 법적으로 의무화하는 방안을 제시했다. 제품 출시 전 외부 평가를 받는 절차와, 인간이 통제권을 잃었을 때 시스템을 일시 중지하거나 속도를 낮추는 ‘킬 스위치’에도 긍정적인 입장을 보였다.
• 영국의 정치적 위치가 장점이 될 수 있다. 그는 워싱턴이 런던을 브뤼셀과 같은 방식으로 바라보지 않는다고 설명했다. 미국 기업과 유럽 규제기관, 다른 국가 사이에서 영국이 중재자 역할을 맡을 여지가 있다는 의미다.

의미와 영향

이번 발언은 AI 안전을 기업의 선의에만 맡길 수 없다는 인식이 업계 내부에서도 커지고 있음을 보여준다. 출시 전 평가, 사고 보고, 긴급 중지 같은 절차가 법적 요건이 된다면, 첨단 AI 제품의 안전성 검증은 선택적인 홍보 활동이 아니라 출시 과정의 기본 단계가 될 수 있다. 기업은 안전하다고 주장하는 데 그치지 않고, 외부 평가 결과와 중대한 사고에 대응할 계획을 제시해야 한다.

영국의 국제적 역할이 실제로 확대될지는 미국 AI 연구소와의 협력이 안정적으로 유지되는지에 달려 있다. 보도에 따르면 미국의 정치적 압박 속에서 영국 평가기관이 최신 모델에 계속 접근할 수 있을지 불확실성이 제기된 바 있다. 다만 영국 AI 안전연구소는 최신 모델에 접근해 테스트할 수 있다고 밝혔다. 따라서 영국의 강점은 제도 자체만으로 보장되는 것이 아니라, 국제적 신뢰와 기술 역량, 실질적인 권한을 함께 확보해야 유지될 수 있다.

자율규제와 정부 규제는 반드시 양자택일일 필요가 없다. 기업은 평가 방법과 기술 전문성을 제공하고, 정부는 모든 개발자가 지켜야 할 최소 안전선을 법으로 정할 수 있다. 중요한 과제는 혁신을 과도하게 막지 않으면서도, 인간의 통제 상실처럼 중대한 위험에는 독립적인 검증과 명확한 책임을 요구하는 것이다.

출처: TechCrunch AI