인스타그램 AI 라벨이 실제 사진을 오인하고 AI 이미지를 놓치는 이유

들어가며

인스타그램의 ‘AI Content’ 라벨은 생성형 AI로 제작되거나 크게 수정된 이미지를 이용자가 빠르게 알아보도록 돕기 위한 기능입니다. 하지만 최근 사용자들은 정반대의 문제를 제기하고 있습니다. 생성형 AI를 사용하지 않은 사진에는 라벨이 붙고, 실제로 AI로 생성된 이미지는 표시 없이 게시되는 경우가 있다는 것입니다.

인스타그램의 AI 라벨 논란은 이번이 처음이 아닙니다. 2024년에도 생성형 AI로 아주 일부만 보정한 사진에 ‘Made by AI’ 라벨이 붙는 문제가 보고됐습니다. 메타는 이미지에서 AI가 사용된 정도를 더 잘 반영하도록 방식을 조정하겠다고 밝혔지만, 실제 탐지 기준과 처리 과정은 충분히 공개하지 않았습니다.

핵심 내용

• 보조형 AI와 생성형 AI가 혼동되고 있습니다. Canva의 배경 제거 기능이나 작은 얼룩 수정 기능을 사용한 뒤 이미지에 라벨이 붙었다는 사례가 나왔습니다. 이런 기능은 머신러닝을 사용할 수 있지만, 프롬프트로 이미지를 만들거나 새로운 요소를 크게 추가하는 생성형 AI와는 성격이 다릅니다.
• 메타데이터 판별이 일관되지 않습니다. Canva는 일부 보조형 AI 도구가 생성형 AI로 잘못 표시되고 있었다고 설명하며 문제를 수정했다고 밝혔습니다. 그러나 일부 이용자는 배경 제거를 계속 사용한 뒤 라벨이 붙었다고 보고해, 도구와 인스타그램 사이의 인식 과정이 안정적이지 않음을 보여줍니다.
• AI 이미지도 탐지를 피할 수 있습니다. The Verge의 테스트에서는 Google Gemini로 생성하고 C2PA와 SynthID 신호를 포함한 이미지가 인스타그램에서 라벨링되지 않았습니다. 반대로 테스트에서 가장 확실하게 라벨을 발생시킨 신호는 메타 자체의 생성형 AI 도구에서 나온 것이었습니다.
• 탐지 기준이 여전히 불명확합니다. 메타는 과거 IPTC와 C2PA 메타데이터, 다른 기업의 도구가 삽입하는 업계 표준 신호를 활용한다고 설명했습니다. 그러나 현재 어떤 정보를 검사하며, 가벼운 AI 편집과 완전한 이미지 생성을 어떻게 구분하는지는 명확히 설명하지 않았습니다.

의미와 영향

AI 라벨은 단순한 화면 표시가 아닙니다. 사진가, 브랜드, 매체, 크리에이터가 공개한 콘텐츠를 이용자가 어떻게 평가하는지에 영향을 줍니다. 오탐이 발생하면 실제 사진도 합성 이미지처럼 보일 수 있고, 누락이 발생하면 이용자가 허위 이미지를 알아채기 어려워집니다. 두 문제가 함께 나타날 경우 라벨은 신뢰할 수 있는 증거로 기능하기 어렵습니다.

배경 제거, 피사체 선택, 불필요한 요소 삭제처럼 AI가 일상적인 편집 기능에 포함되는 상황도 문제를 복잡하게 만듭니다. 모든 지능형 편집을 생성형 AI로 취급하면 라벨의 범위가 지나치게 넓어지고, 메타데이터에만 의존하면 파일 변환이나 게시 과정에서 정보가 사라질 때 판별이 흔들릴 수 있습니다.

메타는 완전 생성, 생성형 AI를 활용한 수정, 일반적인 보조 편집을 구분하는 기준과 라벨 의미를 더 명확히 제시해야 합니다. 시스템이 안정되기 전까지 이용자는 인스타그램의 AI 라벨을 이미지 제작 방식에 대한 확정적 증명이라기보다 플랫폼이 제공하는 참고 신호로 받아들이는 편이 합리적입니다.

출처: The Verge AI