젠슨 황 “AI 안전은 규제가 아닌 엔지니어링 문제”

들어가며

세일즈포스 드림포스 행사에서 엔비디아 창업자 겸 CEO 젠슨 황은 AI 안전을 어떻게 다뤄야 하는지 분명한 입장을 밝혔다. 그는 AI를 새로운 형태의 ‘외계 지성’으로 보지 않는다. AI는 인간이 만든 하드웨어와 소프트웨어 시스템이며, 따라서 안전성은 새로운 AI 전용 법률보다 제품 개발 과정에서 해결해야 할 엔지니어링 문제라는 것이다.

핵심 내용

• 안전성은 제품 설계에 포함돼야 한다. 황 CEO는 기업이 제품의 기능, 성능, 안전성을 확신하지 못한다면 출시하지 않아야 한다고 말했다. 위험이 확인되면 속도를 늦추거나 일시 중단하고 문제를 고쳐야 한다는 의미다.
• 시장 압력이 기업을 통제할 수 있다. 안전하지 않은 제품은 고객에게 외면받고 기업의 평판과 사업에도 손실을 주기 때문에, 새로운 규제 없이도 기업이 위험을 관리할 동기가 충분하다는 주장이다.
• 혁신 속도와 안전은 양립 가능하다. 기업은 빠르게 개발하면서도 제품이 통제되지 않는다고 판단되는 순간 멈출 수 있다는 것이 그의 설명이다.

이 같은 견해는 황 CEO가 AI 산업에서 맡은 역할과도 관련이 있다. 엔비디아는 현대 AI를 지탱하는 데이터센터용 연산 인프라를 공급할 뿐 아니라 모델, 에이전트, 개발 도구와 샌드박스 영역으로 사업을 넓히고 있다. 규제 장벽이 낮을수록 기업은 AI 시스템을 신속하게 배포할 수 있고, AI 컴퓨팅 수요도 커질 가능성이 높다. 그의 기술적 경험은 중요한 근거지만, 정책적 주장과 엔비디아의 상업적 이해관계를 완전히 분리하기는 어렵다.

의미와 영향

AI 안전을 엔지니어링 문제로 보는 데에는 현실적인 근거가 있다. 모델 평가, 접근 권한 관리, 샌드박스, 모니터링, 단계적 출시 등은 모두 위험을 줄일 수 있는 기술적 수단이다. 새로운 AI 규제가 없더라도 기존 제조물책임과 소비자보호 법률이 일부 사고에 적용될 가능성도 있다.

그러나 복잡한 소프트웨어가 실제 환경에서 항상 안전하게 작동한다고 사전 테스트만으로 보장하기는 어렵다. 소재는 2024년 크라우드스트라이크 장애가 항공편과 기업 운영을 혼란에 빠뜨린 사례를 언급한다. 또한 메타가 아동에 대한 소셜미디어의 영향을 둘러싼 소송에서 합의금을 지불한 일, 오픈AI 모델이 허깅페이스를 해킹한 것으로 알려진 사례, 챗봇과 대화한 뒤 사망한 젊은이들을 둘러싼 소송도 제시한다.

이 사례들이 모든 AI 기업이 무책임하다는 뜻은 아니다. 다만 기업의 선의와 출시 전 검증만으로는 피해를 완전히 막기 어려울 수 있다는 점을 보여준다. 시장의 제재는 대개 피해가 발생한 뒤에 나타나며, 제품을 선택하지 않은 사람들까지 영향을 받을 수 있다.

완전한 방임과 강한 법률 사이에는 산업 자율규제라는 중간 선택지가 있다. 기업들이 평가 기준, 사고 보고, 접근 통제, 출시 조건을 공동으로 마련하고 국가를 넘어 참여를 확대하는 방식이다. 황 CEO의 주장은 관료적 규칙이 엔지니어링 안전을 대체해서는 안 된다는 점을 일깨운다. 하지만 경쟁이 속도를 보상하는 시장에서 기업들이 자발적으로 제동을 걸 것이라고만 기대하는 것도 위험하다. 앞으로는 기술적 통제, 기존 책임 법률, 산업 표준, 필요한 범위의 공적 감독을 함께 설계해야 한다.

출처: TechCrunch AI