미 정부의 프런티어 AI 안전 심사 규정 공개 요구 소송

미국 정부가 프런티어 AI 모델을 공개해도 되는지 판단하는 절차가 법원의 검토를 받을 가능성이 커졌다. 초당파 비영리단체 Protect Democracy는 트럼프 행정부가 고성능 AI 모델의 출시 전에 사용하는 심사 체계와 관련해 연방기관 4곳을 제소했다. 원고는 정부가 이 체계의 작동 방식에 대해 국민과 의회에 거의 설명하지 않았다고 주장한다.

소송에서 요구한 정보

정보공개법에 따른 요청 대상은 다음과 같다.

• 안전 심사 프레임워크의 문서와 운영 절차
• 참여 기업과 기관, 이른바 ‘신뢰할 수 있는 파트너’의 신원
• 참여 조건, 계약 구조, 프로그램의 법적 근거
• 어떤 기업이 프런티어 모델을 받고 어떤 고객이 접근할 수 있는지 판단하는 기준
• 공개 전 모델을 시험하는 구체적인 절차

Protect Democracy는 9월 30일까지 자료를 제출하도록 법원에 명령해 달라고 요청했다. 또한 기밀로 지정되지 않은 기록을 부당하게 withheld하지 못하도록 하는 금지명령도 요구했다. 국가사이버국장실은 요청 처리를 신속하게 진행해 달라는 요구를 거부했으며, 소송이 제기될 당시 다른 기관들도 자료를 제공하지 않았다고 원고는 밝혔다.

기밀 지정과 비공개의 경계

백악관은 프런티어 AI 모델을 출시 전에 검토하는 자율적 프레임워크를 완성했으며 이미 사용 중이라고 밝혔다. 산업계 파트너의 도움을 받아 여러 분야의 사이버보안 취약점을 식별하려는 정보 허브 GOLD EAGLE도 출범시켰다. 그러나 참여 기업, 협력 조건, 프로그램의 법적 권한은 공개하지 않았다.

정부의 평가 과정 일부는 기밀일 수 있다. 행정명령은 고급 능력을 평가하고 어떤 모델을 프런티어 AI로 분류할지 정하기 위한 기밀 벤치마킹 절차를 언급했다. 하지만 Protect Democracy는 심사 프레임워크 전체가 기밀로 지정된 것은 아니라고 지적한다. 백악관은 기밀이 아닌 정보라고 해서 모든 사람에게 공개해야 한다는 뜻은 아니라는 입장이다.

‘대상 프런티어 모델’의 정의가 불분명하다는 점도 문제로 제기됐다. 범위가 너무 좁으면 위험한 모델이 심사를 빠져나갈 수 있다. 반대로 너무 넓으면 인력 감축의 영향을 받은 정부기관이 감당하기 어려운 수의 모델을 평가해야 할 수 있다.

AI 거버넌스에 미칠 영향

원고는 불투명한 기준이 모델 승인과 접근권 결정에 정치적 선호나 사적 이해관계가 개입할 여지를 만든다고 우려한다. 이 단체는 행정부가 이념적 견해 차이를 이유로 Anthropic을 제한한 사례를 언급했고, 법원은 해당 블랙리스트 조치가 불법이라고 판단한 바 있다. 또 OpenAI가 첨단 모델의 배포를 정부가 심사한 파트너로 제한하는 비공개 합의를 연방정부와 맺었다고 지적했다. 다만 이러한 내용은 소송에서 제시된 주장으로, 모든 사실관계가 최종 확정된 것은 아니다.

이번 사건은 단순한 기록 공개 분쟁을 넘어선다. AI 안전 기준을 누가 설정할지, 기업이 규칙 설계에 어떻게 참여할지, 의회와 독립 전문가, 시민사회가 심사 기준을 검증할 수 있을지가 함께 걸려 있다. 캘리포니아에서 검토 중인 SB 813은 독립 조직이 기준선을 마련하고 위험 평가 기준과 방법을 공개하는 대안적 접근을 보여준다.

법원이 공개를 명령하면 행정부는 심사 체계의 범위와 책임 주체, 기술적 근거를 설명해야 한다. 반대로 광범위한 비공개가 인정되면 프런티어 AI 거버넌스는 소수 기업과 행정기관 사이의 폐쇄적 협력에 계속 의존할 수 있다. 모델 능력과 사이버 위험이 함께 커지는 상황에서 투명성은 자율 심사 제도의 신뢰성을 판단하는 핵심 기준이 될 전망이다.

출처: Ars Technica AI