메타의 AI 에이전트 뮤즈가 개인정보를 다루는 방식에 대한 우려를 낳고 있습니다. 테크크런치가 로이터 보도를 인용해 전한 내용에 따르면, 메타 직원들은 사내 게시물에서 뮤즈가 서로 다른 계정의 대화를 혼동하고 현재 사용자에게 속하지 않은 정보를 보여줬다고 보고했습니다. 언급된 사례는 직원 테스트 과정에서 나온 것으로, 공개 버전에서도 같은 문제가 발생했다고 확인된 것은 아닙니다.
핵심 내용
- 직원들은 뮤즈가 본인이 요청하지 않은 육아 관련 상담, 경력 조언, 상품 주문 내용, 은행 계좌 잔액 등을 표시했다고 주장했습니다.
- 한 직원은 날씨와 조수 정보를 묻던 대화에 은행 계좌 두 개의 잔액이 추가로 나타났다고 전했습니다. 다른 직원은 개인 휴대전화에서 언니의 시그널 메시지에 답하라는 알림을 받았으며, 다른 앱 접근을 허용한 기억이 없다고 밝혔습니다.
- 메타는 직원들이 일반 공개 버전과 다른 뮤즈를 사용하며, 대중에게 제공되지 않은 기능과 동작을 검토하는 경우가 있다고 설명했습니다. 직원 테스트는 제품 개발의 일부이며 안전과 개인정보 보호를 개선하는 데 도움이 된다는 입장입니다.
이번 사안은 단순히 AI가 틀린 답을 내놓은 문제와 다릅니다. 다른 계정에 속할 수 있는 정보가 표시됐다면 계정 간 데이터 분리가 제대로 작동하는지, 권한의 경계가 어떻게 설정되는지, 정보의 출처를 사용자가 파악할 수 있는지가 핵심 쟁점이 됩니다. 개인 서비스나 알림을 연결하는 에이전트일수록 사용자는 어떤 정보에 접근하도록 허용했는지 명확히 알 수 있어야 합니다.
다만 보도에서 소개된 내용은 사내 테스트와 직원들의 게시물에 기반합니다. 이 사례만으로 문제의 기술적 원인이나 발생 범위, 공개 사용자에게 미친 영향을 단정할 수는 없습니다. 메타는 내부 버전과 공개 버전이 다르다고 밝혔지만, 정보가 섞인 구체적인 원인이나 문제가 이미 해결됐는지에 대한 설명은 제공된 자료에 없습니다.
보도에 따르면 뮤즈는 9월 출시 이후 1,000만 회 이상의 다운로드를 기록했습니다. 에이전트 제품의 이용자가 늘어날수록 편리함뿐 아니라 개인정보를 예측 가능한 방식으로 처리한다는 신뢰가 중요해집니다. 내부 테스트는 기능이 작동하는지 확인하는 데 그치지 않고, 권한 안내가 이해하기 쉬운지, 실제 사용 상황에서도 계정 간 경계가 지켜지는지 점검해야 합니다. 메타의 추가 설명이 나오기 전까지 사용자는 AI가 예상치 못하게 표시하는 은행 정보나 다른 민감한 내용에 주의를 기울일 필요가 있습니다.
출처: Web Search
댓글
로그인 상태 확인 중…
댓글 불러오는 중…