인스타그램, 공개하지 않은 AI 인물 프로필 도달 범위 제한

인스타그램이 AI로 만들어진 인물을 중심으로 운영되는 프로필에 대한 투명성 기준을 강화한다. 소셜미디어에서 AI 인플루언서가 늘어나는 가운데, 실제 사람처럼 보이는 계정을 한동안 접한 뒤 그 인물이 완전히 AI로 생성됐다는 사실을 알게 되는 이용자들의 불만이 커졌기 때문이다.

인스타그램은 기존의 ‘AI 크리에이터’ 라벨을 ‘AI 생성 프로필’로 변경한다고 밝혔다. 플랫폼에 따르면 새 명칭은 프로필에 등장하는 인물이 AI로 생성됐거나 상당 부분 AI를 활용해 만들어졌다는 점을 이용자가 더 쉽게 이해하도록 하기 위한 것이다.

정책의 핵심

이번 조치는 AI 인물 계정을 금지하는 대신, 공개 여부를 콘텐츠 유통과 연결한다는 데 의미가 있다.

• AI 생성 인물을 프로필의 중심 인물로 사용하면서 적절한 라벨을 붙이지 않으면 도달 범위가 줄어들 수 있다.
• 새 라벨을 사용하는 계정은 AI 생성 인물을 내세운다는 이유만으로 불이익을 받지 않는다.
• 사진 보정, 캡션 다듬기, 그래픽 제작 등 제한적인 AI 활용에는 이 라벨이 필요하지 않다.

따라서 인스타그램은 AI를 창작 보조 수단으로 사용하는 경우와, 계정의 겉보기 정체성을 AI 인물에 기반하는 경우를 구분하려는 것으로 보인다. 전자는 일반적인 제작 과정의 일부가 될 수 있지만, 후자는 이용자가 계정 운영 주체와 인물의 실재성을 판단하는 방식에 직접 영향을 준다.

왜 지금 변경했나

인스타그램은 이용자들이 인간의 개인 프로필처럼 보이는 계정을 발견했다가, 나중에 그 인물이 전부 AI로 생성됐다는 사실을 알게 되는 상황을 문제로 들었다. 사전 공개가 없다면 이용자는 해당 계정이 가상 캐릭터인지, 광고 계정인지, 실제 개인의 활동인지 구분하기 어렵다.

최근 사례는 이런 우려를 키웠다. Wired는 올해 동성애자 데이팅 앱 Goose를 홍보한 것으로 보이는 AI 생성 남성 인플루언서 네트워크를 조사했다. 일부 계정은 잠재 이용자에게 다이렉트 메시지를 보내 가입을 유도한 것으로 전해졌다.

건강·웰니스 분야도 위험성이 큰 사례로 꼽힌다. 뉴욕타임스는 지난 7월 소셜미디어에서 보충제를 홍보하거나 건강 관련 주장을 하는 AI 생성 의사, 치료사, 웰니스 인물 수백 개를 확인했다고 보도했다. 이 경우 문제는 이미지가 실제처럼 보인다는 데서 끝나지 않는다. 합성된 인물이 상업적 메시지나 검증되지 않은 조언에 전문성을 부여하는 것처럼 보일 수 있다.

플랫폼과 창작자에 미칠 영향

새 라벨은 단순한 안내 문구를 넘어 계정의 성장과 배포에 영향을 주는 운영 요소가 될 수 있다. 창작자는 플랫폼이나 이용자가 AI 사용 사실을 발견한 뒤 대응하기보다, AI 인물을 사용할 때 처음부터 이를 표시해야 할 유인이 커진다.

다만 라벨만으로 AI 계정과 관련한 모든 문제가 해결되지는 않는다. 라벨은 인물이 합성됐다는 사실을 알려줄 뿐, 건강 주장의 진위나 광고 관계, 다른 사람의 초상 사용 여부까지 자동으로 검증하지 않는다. 이번 조치는 AI 인물 프로필을 접하는 이용자에게 최소한의 사전 정보를 제공하는 장치로 보는 편이 적절하다.

이번 발표는 Meta가 AI 기능 확대와 안전 문제 사이의 균형을 조정하는 흐름과도 맞닿아 있다. Meta는 과거 다른 사람의 초상을 명시적 동의 없이 활용해 이미지를 만들 수 있는 AI 도구로 반발을 샀고, 이후 해당 기능을 삭제했다. 또 아동·청소년에 대한 Facebook과 Instagram의 영향을 둘러싼 미국 주 정부들과의 합의에는 청소년 이용 시간 제한, 야간 모드, 알림 제한 등이 포함됐다.

결국 이번 변화의 핵심은 AI 사용 자체보다 이용자가 무엇을 보고 있는지 알 권리에 있다. 인스타그램은 AI 인물의 존재를 숨기는 계정보다, 이를 명시하고 운영하는 계정에 더 예측 가능한 환경을 제공하려는 방향을 택했다.

출처: TechCrunch AI