앤트로픽, 외부 AI 안전 감시기구에 ‘직원급’ 접근 권한 부여

들어가며

앤트로픽이 외부 AI 안전 감시를 실제 운영 구조에 더 깊이 편입했다. 비영리 평가기관 METR은 6명의 인력을 앤트로픽 사무실에 배치했으며, 회사가 제공한 장비와 공간뿐 아니라 내부 도구와 시스템에도 접근할 수 있게 됐다. 접근 수준은 앤트로픽의 자체 위험 평가팀이 사용하는 환경과 대체로 비슷하다. 외부 평가자를 프로젝트가 끝난 뒤 불러 점검하는 방식이 아니라, 안전 업무가 진행되는 현장에 상주시키는 셈이다.

핵심 내용

• 내부 직원에 가까운 접근 권한. METR 구성원은 내부 시스템을 사용하고, 위험 부서의 동료와 비슷한 방식으로 직원들로부터 정보를 받을 수 있다.
• 분석 결과를 독자적으로 공개. METR은 조사 결과를 발표할 수 있으며 앤트로픽은 발표 자체를 거부할 수 없다. 다만 고객 데이터, 변호사-의뢰인 비밀유지 대상 정보, 모델 아키텍처 등은 삭제를 요구할 수 있다.
• 앤트로픽이 비용을 지급하지 않음. METR은 AI 기업이나 그 직원의 기부를 받지 않고, 개인과 자선단체, 정부 기관 등의 지원으로 운영된다.
• 업계의 구체적인 실행은 아직 제한적. 앤트로픽은 주요 AI 기업에 외부 감사자를 배치하자고 제안해 왔고 OpenAI 등도 취지에 공감했지만, 같은 수준의 실행 계획을 공개하지는 않았다.

의미와 영향

더 강력한 AI 모델은 사이버보안과 경제, 사회 전반에 영향을 미치는 위험을 만들 수 있다. 그러나 안전 테스트의 모든 세부사항을 공개하면 악의적인 행위자에게 단서를 제공하거나 고객 정보와 기술 기밀을 노출할 수 있다. 앤트로픽은 이 구조를 대형 은행에 감독기관의 상주 검사관을 두는 방식에 비유한다. 위험이 커진 뒤가 아니라 위험한 의사결정이 진행되는 동안 외부 시선이 들어와야 한다는 논리다.

실효성을 결정하는 것은 외부 기관이 존재한다는 사실보다 실제로 어떤 증거를 볼 수 있는지, 그리고 본 내용을 얼마나 자유롭게 보고할 수 있는지다. METR은 여러 주요 AI 연구소와 협력해 왔으며, 비정상적인 모델 행동과 관련된 조사에서 로그와 기업 장비를 검토한 경험도 있다. 이런 경험은 민감한 자료를 다루는 데 도움이 될 수 있다. 반면 기업 내부에 들어간 평가자가 피평가 기관에 대한 의존이나 조직적 압력을 피할 수 있는지는 계속 확인해야 한다.

앤트로픽은 공개 책임과 기밀 보호 사이의 절충안을 선택했다. 회사는 보고서 공개를 막을 수 없지만 제한된 범위에서 비공개 처리를 요청할 수 있다. 비판론자들은 자율적인 기업 협약만으로는 정부 규제를 대체할 수 없다고 지적할 수 있다. 앤트로픽은 Accenture와 안전 테스트를 진행하고 있으며, SecureBio에는 화학·생물학 무기 위험 검토를 맡기고 있다. 향후 이 모델이 다른 프런티어 AI 기업으로 확산될지는 METR 보고서의 독립성, 공개 수준, 공식 규제와의 역할 분담에 달려 있다.

출처: Ars Technica AI