미 항소법원, 국방부의 앤스로픽 블랙리스트 지정 인정

미 워싱턴DC 연방항소법원은 국방부가 앤스로픽을 공급망 위험 기업으로 지정하고, 연방기관의 제품 사용을 중단시킬 수 있다고 판단했다. 2대 1로 나온 이번 판결은 트럼프 행정부가 국방 계약업체의 앤스로픽과의 거래도 금지한 조치를 지지한다.

사건의 핵심은 앤스로픽이 클로드에 설정한 군사적 사용 제한을 정부가 공급망 위험으로 해석할 수 있는지 여부다. 앤스로픽은 치명적 자율전쟁과 미국인에 대한 대규모 감시에 모델을 사용하는 것을 제한해 왔다. 회사는 이런 안전 기준을 철회하지 않았다는 이유로 정부가 제품 사용을 막은 것은 부당한 보복이라고 주장했다.

서로 다른 법률 조항

캘리포니아 북부 연방법원은 앞서 정부의 조치를 불법으로 판단했다. 해당 법원은 미국 법전 10편 3252조의 공급망 위험이 적대 세력의 사보타주, 악의적인 기능 삽입, 시스템 전복 같은 행위를 가리킨다고 해석했다. 앤스로픽에는 그런 악의가 없고, 정부가 원하지 않는 사용 방식을 공개적으로 제한했을 뿐이라는 판단이었다. 법원은 수정헌법 제1조와 관련된 문제도 제기했다.

반면 이번 항소법원은 조달 조치에 적용되는 미국 법전 41편 4713조를 중심으로 사건을 심리했다. 다수의견은 이 조항이 위험의 주체를 적대국이나 외국 세력으로 한정하지 않고 “어떤 사람”도 포함한다고 설명했다. 또한 기술의 기능이나 사용을 거부하거나 방해하고 조작할 위험도 공급망 위험의 정의에 포함된다고 봤다. 이 조항에 따른 조달 조치는 워싱턴DC 항소법원이 독점적으로 심리할 권한도 갖는다.

다수의견에 따르면 국방부가 클로드가 군의 적법한 지시를 수행하지 않을 수 있다고 우려한 것은 합리적이다. 앤스로픽에 악의가 없더라도, 군사 작전에서 모델이 예상대로 작동할지 정부가 확신할 수 없는 상태 자체가 더 넓은 법률 조항 아래에서는 위험이 될 수 있다는 논리다.

안전 제한과 군사적 가용성의 충돌

재판부는 이 논쟁을 두 가지 위험의 충돌로 설명했다. 지나치게 제한된 모델은 중요한 작전 중 갑자기 작업을 거부해 임무를 실패하게 만들 수 있다. 반대로 제한이 거의 없는 모델은 환각을 일으켜 부적절한 공격 목표를 제시하고, 치명적 무력 사용에 영향을 줄 수 있다. 다수의견은 이 위험 사이의 균형을 정하는 것은 대통령과 국방장관의 정책 판단이며, 법원이 이를 대신할 수 없다고 밝혔다.

반대의견을 낸 Karen Henderson 판사는 법률의 적용 범위를 과도하게 넓혔다고 비판했다. 그녀는 해당 법률이 적대 국가나 악의적인 행위자가 공급망을 통해 정부 시스템에 침투하는 위험에 대응하기 위한 것이라고 봤다. 정부가 선호하지 않는 사용 제한을 계약업체가 공개적이고 정직하게 집행하는 것까지 공급망 위험으로 볼 수는 없다는 주장이다.

AI 업계에 미칠 영향

이번 판결은 정부와 군에 AI를 공급하려는 기업의 부담을 키울 수 있다. 개발사는 위험한 용도를 거부하는 안전 정책뿐 아니라, 정부가 이런 제한을 임무 연속성에 대한 위협으로 해석할 가능성도 검토해야 한다. 제품의 안전 경계가 조달 리스크로 바뀔 수 있다는 의미다.

앤스로픽은 판결에 동의하지 않으며 전원합의체 재심리와 연방대법원 상고를 포함한 선택지를 검토하고 있다고 밝혔다. 하워드 러트닉 상무장관은 최근 정부와 앤스로픽의 관계가 회복됐다고 말했지만, 법적 분쟁은 계속될 수 있다. 향후 결과는 군사 분야에서 AI 기업이 자체적인 사용 제한을 어디까지 설정할 수 있는지에 중요한 기준이 될 전망이다.

출처: Ars Technica AI