구글 어스의 AI 이미지 기능은 왜 곧바로 철회됐나

Google이 Google Earth에 넣었던 AI 기능은 단순한 편집 도구가 아니라, 현실을 어떻게 믿을 것인가라는 질문을 건드렸다.

무슨 일이 있었나

구글은 Earth의 위성·항공·3D 이미지를 Nano Banana 2 이미지 생성기와 결합해, 실제 지형을 바탕으로 AI가 수정한 장면을 만들 수 있게 했다. 회사는 이를 통해 개발 중인 부동산 프로젝트를 시각화하거나, 포메이와 같은 역사적 장면을 재현할 수 있다고 설명했다. 하지만 공개 직후 연구자들과 조사 저널리스트들은 이 기능이 오히려 허위 이미지 제작을 너무 쉽게 만든다고 경고했다. 결국 구글은 기능을 빠르게 철회했다.

왜 문제가 됐나

• 실제 지리 정보를 바탕으로 그럴듯한 가짜 장면을 빠르게 만들 수 있다.
• 기자와 조사자들이 참고해 온 검증용 자료의 신뢰성이 흔들릴 수 있다.
• 전쟁, 재난, 군사시설 관련 허위 증거를 만드는 데 악용될 수 있다.
• 진짜 위성 이미지조차 “AI로 만든 것 아니냐”는 의심을 받을 수 있다.

Bellingcat의 Eliot Higgins와 독립 조사자인 Henk van Ess는 이 기능이 얼마나 쉽게 악용될 수 있는지 강조했다. van Ess는 짧은 입력만으로 국경 근처의 난민, 이란의 원자력 시설, 암스테르담의 사고 장면을 실제 구글 지형 위에 배치할 수 있었다고 설명했다. 핵심은 결과물의 정교함보다, 제작 속도가 얼마나 빨라졌는지였다.

구글의 대응과 한계

구글은 SynthID 디지털 워터마크와 위험한 주제 차단 정책을 내세웠다. Gemini나 Lens로 생성 여부를 확인할 수 있다고도 설명했다. 그러나 워터마크는 스크린샷, 재인코딩, 재촬영 같은 일상적인 유통 과정에서 약해질 수 있다. 현실에서는 원본 확인이 항상 가능하지 않기 때문에, 이런 방식만으로는 충분하지 않다.

의미와 영향

이번 철회는 생성형 AI가 단순한 창작 기능을 넘어, 공공의 사실 기반을 건드릴 수 있다는 점을 보여준다. Google Earth는 원래 현실 세계를 확인하는 기준점처럼 사용돼 왔다. 그런데 같은 도구가 그 기준점을 변형할 수 있다면, 참조와 조작의 경계가 무너질 수 있다.

구글은 더 강한 가드레일을 마련한 뒤 기능을 다시 검토할 수 있다고 밝혔다. 하지만 이번 사례는 AI 제품이 현실 증거와 맞닿는 순간, 편의성보다 검증 가능성이 먼저여야 한다는 사실을 분명히 보여준다.

Source: Ars Technica AI