Google、Earthの生成画像機能を公開翌日にロールバック。偽の衛星画像への批判受け

Googleは米国時間7月31日、Google Earthの生成画像機能を公開の翌日にロールバックした。前日の7月30日にWeb版で全世界へ提供を始めた機能であり、稼働はおよそ1日にとどまった。

機能は画像生成モデル「Nano Banana 2」を使い、Google Earthの衛星画像・航空写真・3D画像を土台とする。利用者が入力した文章に沿った光景を、実在の場所に重ねて描くものだった。

公開直後から、存在しない核施設や災害の光景を本物の地図上に作れるとして批判が集まった。Googleはポリシー違反と見られる生成画像の共有を確認し、ガードレールを強化する間は機能をロールバックすると説明した。

公開翌日のロールバックに至った経緯

7月30日にGoogle EarthのWeb版へ全世界公開

Googleは米国時間7月30日、Google EarthのWeb版へ画像生成機能を追加したと公式ブログで発表した。全世界のWeb版利用者が、同日から使える形での提供だった。

操作はGoogle Earth上で任意の場所へズームし、「create image」を押して見たい光景を文章で入力する。Googleが示したインフォグラフィックの例では、Geminiが関連情報を取得し、Nano Banana 2が画像を生成する構成をとっていた。

生成の土台は、Google Earthが保持する衛星画像・航空写真・3D画像である。利用者は実在する場所を選び、その場所を基にした光景を文章で指定できた。

Googleが公開時に示していた想定用途

Googleは公式ブログで、過去の光景の再現・教育用インフォグラフィックの作成を用途として挙げた。不動産や都市計画の検討・建築の完成予想も想定に含めている。

具体例は、ポンペイの遺跡を紀元78年の街並みとして描くケースだった。着工前の建物や改装後の姿を事前に確かめる使い方も示されている。

これらは全て、現実の場所を出発点に将来像や過去の光景を可視化する用途だった。一方で、同じ仕組みは実在しない出来事を現実の場所へ描くことにも使えた。

7月31日に機能をロールバック

公開の翌日、Googleは機能のロールバックを発表した。同社は、地理空間の専門家が有用な目的で使う例を確認した一方、ポリシー違反と見られる生成画像のスクリーンショットも共有されていたと説明している。

その上で、より強力なガードレールの実装に取り組む間、Google Earthのこの機能をロールバックするとした。8月2日時点で、Google公式ブログの更新には強化策の具体的な中身や再開時期の記載がない。

「ロールバック」は、恒久的な廃止を意味する言葉ではない。Googleの説明は、保護策の強化後に再提供する余地を残したものとなる。

批判の中心にあった偽の衛星画像

通信社と調査者が実際に生成

AFPは自らの検証で、パリでの爆発・イランの核施設・ロシアの爆弾によるクレーターを生成した。シリアのイスラム国の訓練場・バングラデシュの洪水も作れたと伝えている。

さらに、米国とメキシコの国境における移民の隊列と、ジョージア州の不審な倉庫も生成。いずれも実在の場所を選び、文章で架空の出来事や施設を指定した例だった。

デジタル調査の専門家であるHenk van Ess氏も、イランの核施設やメキシコ国境付近の難民の光景を生成した。本人の記事によると、実在する場所の画像を土台に、短い文章から作り出したものだった。

これらの例が示したのは、地名と出来事を文章で指定するだけで架空の光景を生成できる点である。実在の場所を土台とするため、生成物は地理的な裏付けを備えているように見えかねない。

専門家が挙げた検証実務への影響

米シンクタンクAmerican Enterprise InstituteのBrady Africk氏は、説得力のある偽の衛星画像を作りやすくなると指摘した。オンラインで急速に広がり、人々を誤らせ得るとの見方を示している（英語での発言を要約）。

Centre for Information Resilienceの共同創設者Ross Burley氏は、この機能を無責任だと述べた。衛星画像への信頼は数十年をかけて築かれ、一夜にして取り返しのつかない形で損なわれ得ると指摘している（英語での発言を要約）。

両者の懸念は、偽画像を作れることだけに向けられたものではない。実在の場所と結び付いた生成物が、衛星画像のような外観で流通することを問題視していた。

生成物が実在の場所と結び付く構造

Google Earthの衛星画像は、報道や人権調査、OSINTの実務で位置照合や出来事の検証に利用されてきた。Bellingcatは画像や動画の位置を確かめる主要な手段としてGoogle Earthを挙げ、Amnesty Internationalも人権調査で利用した事例を公表している。

今回の機能は、そのような検証にも使われる製品の中で、現実の場所を土台に架空の光景を作れるものだった。生成物が同じ座標に基づくことで、受け手には位置情報の裏付けがあるように映る可能性がある。

ただし、Googleは生成画像が他の利用者の通常のGoogle Earth画面に表示されることはなかったと説明している。通常のベース画像が生成物へ置き換わったわけではなく、生成結果は別の画像として作られていた。

SynthIDとスクリーンショット共有をめぐる論点

SynthIDの不可視の透かし

Googleは、Google Earthで生成した全ての画像にSynthIDのデジタル透かしが含まれると説明した。SynthIDは、GoogleのAIで作られた媒体へ不可視の情報を埋め込み、検出できるようにする仕組みである。

SynthIDは2023年に導入された。Google DeepMindによると、フィルタの追加や色・明るさの変更、一般的な非可逆圧縮を経ても透かしを検出できるよう設計されている。

一方、DeepMindは極端な画像加工に対して万全ではないとも説明する。不可視の透かしは、受け手が検出の手順を踏んだときに生成元を確かめるための仕組みであり、画像の拡散そのものを止める機能ではない。

通常のGoogle Earth画面には表示されない設計

Googleは公開後の更新で、生成画像が他の利用者の通常のGoogle Earth画面に表示されることはなかったと強調した。生成結果はAI生成として透かしが入る設計だったとも説明している。

この限定は重要である。利用者が作った架空の核施設や災害の画像が、Google Earthのベース画像として全利用者へ表示されたわけではない。

しかし、生成物はスクリーンショットとしてGoogle Earthの外へ持ち出せる。Googleがロールバック理由として挙げたのも、ポリシー違反と見られる生成画像のスクリーンショットが共有されていたことだった。

スクリーンショットとして外部へ流通

生成画像を他の利用者の通常画面に表示しない設計でも、スクリーンショットの共有までは防げなかった。Google自身が外部での共有を確認したことが、ロールバックの直接の説明となっている。

スクリーンショットを見た受け手は、その画像が通常のGoogle Earth画面から取得されたのか、生成機能で作られたのかを画像の外観だけで判断しなければならない。SynthIDは判定を支える手段になるが、確認が行われなければ生成元は伝わらない。

この点が、透かしを付けたことと、誤解を招く画像の流通を防ぐことが同じではない理由に当たる。Googleの初期対応では透かしが説明されたが、その後は機能自体のロールバックへ進んだ。

ガードレールの中身と衛星画像の検証利用

実装される保護策と再開時期は未公表

Googleはより強力なガードレールに取り組むとしたが、8月2日時点の公式発表では中身を明らかにしていない。機能を再開する時期についても説明していない。

現時点で分かるのは、Googleが保護策の実装期間中に機能をロールバックしたことまでである。ガードレールが生成内容を制限するのか、表示や共有の方法を変えるのかは公式情報から確認できない。

Googleの表現は一時的な措置を示唆するものの、再提供を約束したものでもない。今後の扱いは、追加の公式発表を待つ段階にある。

衛星画像を検証に使う実務への影響

衛星画像は、位置や時間を照合して出来事を検証する際の材料として使われてきた。BellingcatはGoogle Earthの画像を他の衛星画像と照合し、撮影時期を検証する手順を公開している。

人権調査でも、現地の映像とGoogle Earthの衛星画像を組み合わせ、場所を確かめた事例がある。Google Earthは唯一の証拠ではないが、他の情報と突き合わせるための手段の一つとなってきた。

今回の機能が問題視された背景には、その検証にも使われる製品から架空の光景を作れたことがある。通常画像が改変されたわけではない一方、スクリーンショットとして切り出された生成物は単独で流通し得る。

ロールバック後に残る確認材料

今後の確認材料は、Googleがどのようなガードレールを実装するか、機能を再開する場合にどのような条件を設けるかである。生成物であることを示す情報が、スクリーンショットとして共有された後にも伝わる設計になるかも焦点となる。

公開からロールバックまでは約1日だった。対応は短期間で行われたが、公開前に同種の懸念をどのように検討していたかは、8月2日時点のGoogle公式発表から確認できない。