OpenAI, AI 안전 연구자 3명 해고 고수…신뢰와 투명성 논란

들어가며

OpenAI가 AI 안전 연구자 Jasmine Wang, Tomek Korbak, Mikita Balesni 등 세 명을 해고한 결정을 다시 한번 옹호했습니다. 회사는 이들이 민감한 정보 취급에 관한 명확한 정책을 위반했다고 설명했습니다. 안전 문제에 대해 우려를 제기했기 때문에 해고한 것은 아니라는 것이 OpenAI의 입장입니다.

이번 설명은 세 연구자가 해고 결정에 대한 보다 투명한 설명을 요구하는 공개서한을 발표한 뒤 나왔습니다. 연구자들은 자신들이 AI 안전 우려를 제기했기 때문에 해고됐다고 판단하며, 당시 자신들의 행동은 OpenAI의 사명과 조직 내 업무 관행에 부합했다고 주장했습니다. 이에 OpenAI는 내부 조사에서 공개서한에 담긴 내용 외에도 문제가 발견됐다고 밝혔지만, 구체적인 내용은 공개하지 않았습니다.

핵심 내용

• OpenAI는 해고 사유를 안전 정책에 대한 이견이 아니라 민감한 정보 취급 규정 위반으로 설명했습니다.
• 회사는 조사 결과를 ‘중대한 신뢰 위반’으로 규정했습니다.
• 어떤 규정을 어떻게 위반했는지, 조사에서 어떤 증거가 확인됐는지는 공개되지 않았습니다.
• 연구자들은 해고 절차와 조사 결과에 대한 설명을 요구하고 있습니다.
• 이번 논란은 첨단 AI 시스템의 안전과 내부 통제가 중요한 쟁점으로 떠오르는 가운데 발생했습니다.

왜 중요한가

이번 사안은 단순한 인사 조치에 그치지 않습니다. AI 연구소가 기밀 정보를 보호하면서도 연구자들이 불편한 안전 문제를 자유롭게 제기하도록 만드는 방법이 무엇인지 묻는 사건입니다.

첨단 모델 개발에는 학습 데이터, 평가 결과, 시스템 능력, 보안 절차와 같은 비공개 정보가 포함됩니다. 따라서 정보 공개를 제한하는 규칙에는 분명한 필요성이 있습니다. 그러나 규칙의 범위가 지나치게 포괄적이거나 적용 근거가 검증되지 않는다면 내부 안전 체계가 오히려 약해질 수 있습니다. 직원들이 정당한 비판과 규정 위반의 경계를 알 수 없다면 위험 신호를 보고하기를 주저할 수 있기 때문입니다.

OpenAI가 ‘안전 문제에 대한 발언’이 아니라 ‘신뢰’를 강조하면서 논쟁의 중심은 연구자들의 주장 내용에서 절차와 책임성으로 이동했습니다. 회사는 공개서한에 포함되지 않은 문제가 있었다고 말하지만, 관련 세부사항을 제시하지 않아 외부에서는 양측의 주장을 독립적으로 판단하기 어렵습니다. 해고된 인물들이 안전 연구자였다는 점에서 이러한 설명의 공백은 더욱 크게 느껴집니다.

자료는 이번 논란의 배경으로 Hugging Face와 관련된 해킹 사건을 포함해 올해 발생한 여러 고위험 정보 침해 사례를 언급합니다. AI 기업 내부에서는 개발 속도를 늦추고, 스스로 개선하는 시스템이 초래할 수 있는 결과에 대비해야 한다는 목소리도 커지고 있습니다.

기밀 보호와 내부 문제 제기를 양립시키려면 명확한 신고 채널, 이해하기 쉬운 징계 기준, 신뢰할 수 있는 재검토 절차가 필요합니다. 이번 사건의 전체 사실관계는 아직 공개되지 않았지만, 비밀 유지와 안전에 대한 이견, 조직의 설명 책임 사이에 어떤 경계를 세울지는 모든 첨단 AI 연구소가 풀어야 할 공통 과제가 되고 있습니다.

출처: The Verge AI