Meta, 가족 개인정보를 캐물은 AI 추천 질문 수정한다

들어가며

Meta가 AI 어시스턴트의 추천 프롬프트 기능을 변경합니다. 발단은 Instagram 이용자 Kalie Robins가 올린 영상입니다. Robins는 아이와 차 안에서 노래하는 영상을 Facebook에도 공유한 뒤, 영상 아래에 Meta AI가 ‘차에 타고 있는 아이는 누구인가’라는 취지의 질문을 추천했다고 설명했습니다. 이용자가 먼저 아이의 신원을 물은 것이 아니라 AI가 질문의 방향을 제시했다는 점이 논란이 됐습니다.

Robins는 해당 프롬프트를 선택하자 Meta AI가 과거 게시물과 친척들의 게시물을 바탕으로 딸들에 관한 정보를 연결했고, 아이들의 나이와 가족이 사는 곳을 묻는 추가 질문도 제안했다고 말했습니다. 또 수년 전에 삭제했다고 생각한 딸의 사진까지 표시됐다고 주장했습니다.

핵심 내용

• AI가 민감한 주제를 먼저 꺼냈다. 단순히 질문에 답한 것이 아니라, 아이의 신원과 가족 정보를 더 찾아보도록 AI가 유도한 것이 핵심 문제입니다.
• Meta는 접근 가능한 정보만 사용한다고 설명했다. 대변인 Dina El-Kassaby는 Meta AI가 질문한 이용자가 이미 볼 수 있는 콘텐츠만 답변에 포함할 수 있으며, 볼 권한이 없는 게시물은 반환하지 않는다고 밝혔습니다. 회사는 이번 사례에서 아이의 이름이 언급된 영상이나 이용자가 접근할 수 있는 친척의 게시물이 활용됐을 가능성을 제시했습니다.
• 볼 수 있다는 사실이 재활용의 적절성을 보장하지 않는다. 게시물을 볼 수 있더라도 AI가 여러 정보를 결합해 아이의 나이와 거주지를 묻는 방식으로 다시 제시하면 이용자는 감시받는 듯한 불편함을 느낄 수 있습니다.
• Meta는 기능을 수정했다고 밝혔다. 회사는 이런 개인적인 질문을 추천해서는 안 됐다고 인정했으며, 개인 주제와 관련된 프롬프트가 제안되는 문제를 해결했다고 설명했습니다.

의미와 영향

Meta AI는 Facebook, Instagram, WhatsApp, Messenger에 통합돼 질문 답변, 글 작성, 이미지 생성 등을 지원합니다. 여러 서비스의 콘텐츠를 바탕으로 더 풍부한 맥락을 제공할 수 있지만, 이용자가 서로 별개의 게시물로 인식하던 정보가 AI에 의해 하나의 가족 정보로 묶일 가능성도 커집니다.

이번 사건은 AI 안전성을 단순한 권한 확인만으로 판단하기 어렵다는 점을 보여줍니다. 시스템이 기술적으로 이용자에게 공개된 정보만 사용했더라도, 아동의 신원과 나이, 거주지 같은 민감한 정보를 적극적으로 연결해 보여주면 새로운 개인정보 침해 경험이 만들어질 수 있습니다. 중요한 것은 AI가 정보를 가져올 수 있는지가 아니라, 어떤 연관성을 만들어 어떤 질문을 추천하는지입니다.

앞으로 Meta는 추천 프롬프트를 걸러내는 기준, 오래된 게시물과 현재 콘텐츠를 연결하는 방식, 이용자가 이런 정보 결합을 통제할 수 있는 방법을 설명해야 합니다. Meta는 과거에도 다른 Instagram 이용자의 AI 딥페이크를 만들 수 있는 기능을 논란 뒤 철회한 바 있습니다. 소셜 플랫폼에서 ‘이용자가 볼 수 있다’는 것은 최소한의 접근 조건일 뿐, ‘AI가 적극적으로 다시 제시해도 된다’는 뜻은 아닙니다.

출처: The Verge AI