구글, Google Earth AI 이미지 기능 하루 만에 철회

도입

구글이 Google Earth에 추가한 AI 이미지 기능을 단 하루 만에 철회했다. TechCrunch 보도에 따르면, 이 기능은 구글의 이미지 생성기 Nano Banana 2를 이용해 사용자가 프롬프트로 만든 가상 이미지를 실제 위성 지도 화면 위에 겹칠 수 있도록 한 것이었다. 구글은 지리를 창의적으로 다루기 위한 기능이라고 설명했지만, 공개 직후부터 이 도구가 허위 또는 오해를 부르는 지리 공간 이미지를 만드는 데 쓰일 수 있다는 비판이 제기됐다.

Google Earth는 오랫동안 기자, 연구자, 조사자, 일반 이용자가 특정 장소와 지형을 확인하는 데 활용해 온 서비스다. 바로 그 신뢰성 때문에 문제가 커졌다. AI가 만든 장면이 실제 지도 인터페이스 안에 자연스럽게 배치되면, 사용자는 그것을 단순한 창작물이 아니라 현실의 시각적 증거처럼 받아들일 수 있다.

핵심 내용

• AI 생성 이미지와 실제 지도가 결합됐다: 사용자는 텍스트 프롬프트로 만든 이미지를 Google Earth의 지도 화면 위에 올릴 수 있었다.
• 비판의 초점은 허위 정보 위험: 생성물이라는 맥락이 사라진 스크린샷은 실제 위성 이미지처럼 퍼질 가능성이 있다.
• 구글은 빠르게 롤백했다: 회사는 유용한 활용 사례도 있었지만, 정책 위반으로 보이는 생성 이미지가 공유되는 사례를 확인했다고 밝혔다.
• 문제는 특정 회사에만 국한되지 않는다: 오늘날에는 전문적인 편집 기술 없이도 AI 이미지 도구로 그럴듯한 가짜 이미지를 만들 수 있다.

의미와 영향

이번 사건은 생성형 AI 기능이 어떤 제품 환경에 들어가느냐에 따라 위험도가 달라진다는 점을 보여준다. 디자인 앱이나 놀이용 도구에서는 사용자가 결과물이 합성물이라는 사실을 비교적 쉽게 이해한다. 반면 지도, 위성 이미지, 현장 사진처럼 사실 확인에 쓰이는 서비스에서는 같은 생성 기능이라도 훨씬 민감한 문제가 된다. 플랫폼 자체가 가진 신뢰가 AI 생성물에 덧씌워질 수 있기 때문이다.

구글의 철회는 단순한 후퇴라기보다 안전장치를 다시 설계하겠다는 신호로 볼 수 있다. 비슷한 기능을 다시 내놓으려면 명확한 라벨, 지속적인 출처 표시, 공유 및 내보내기 경고, 민감한 장소나 사건에 대한 제한, 더 엄격한 정책 집행이 필요할 수 있다. 핵심은 가상의 지리 이미지가 Google Earth의 신뢰도를 빌려 실제처럼 보이지 않게 만드는 것이다.

AI 업계에도 시사점이 있다. 이제 신기능의 평가는 생성 품질이나 창의성만으로 충분하지 않다. 생성물이 놓이는 신뢰 환경, 그리고 그 결과가 어떻게 캡처되고 재배포될 수 있는지까지 고려해야 한다. 특히 사회가 사실의 근거로 받아들이는 플랫폼일수록 출시 전 안전 검토의 기준은 더 높아져야 한다.

출처: TechCrunch AI