Google EarthのAI改変機能はなぜ即撤回されたのか

Google EarthにAI編集機能を入れた今回の試みは、「画像生成の新機能」以上の意味を持っていた。なぜなら、対象が単なるイラストではなく、現実世界の地理情報そのものだったからだ。

何が起きたのか

Googleは、Earthの衛星・航空・3D画像にNano Banana 2の生成機能を組み合わせ、実在の風景をAIで加工できるようにした。会社側は、開発中の不動産や歴史再現のような用途を想定していた。しかし公開直後から、研究者や調査報道の関係者は、これが偽情報の温床になりうると警戒した。Googleはほどなく機能を撤回し、利用できない状態にした。

懸念されたポイント

• 実在の地形を土台に、もっともらしい偽画像を簡単に作れる
• 記者や調査員が参照してきたGoogle Earthの信頼性が下がる
• 災害、紛争、軍事施設などの偽の証拠作りに悪用されうる
• 本物の衛星画像でさえ「AI加工では」と疑われやすくなる

BellingcatのEliot Higginsや独立調査者のHenk van Essは、こうした機能が悪用される速度の速さを問題視した。van Essは、少しの入力だけで難民、原子力施設、交通事故の場面を現実の地図上に重ねられたと説明している。重要なのは完成度だけではなく、「すぐ作れる」ことだった。

Googleの説明と限界

Googleは、生成画像にはSynthIDのデジタル透かしが入ること、危険なテーマは制限していることを強調した。だが、透かしはスクリーンショットや再圧縮、撮影し直しで弱まりうる。実際の流通経路では、元データの検証だけでは足りない。

何を示したのか

この件は、生成AIが単なる画像編集機能では済まないことを示している。Google Earthは「現実を確認するための基準点」として使われることが多い。その中で同じ製品が改変画像も作れるとなれば、参照と改ざんの境界は急速に曖昧になる。

Googleは将来的に、より強いガードレールを整えたうえで再導入する可能性を示唆している。だが今回の撤回は、AI機能を実装する際に、利便性だけでなく検証可能性を最優先に考える必要があることをはっきり示した。

Source: Ars Technica AI