AI安全ガバナンスが「守り」へ本格シフト——Google Earthディープフェイク撤退、Copilot経由のワーム、日本の主権的防御スタック

1日で撤退した「世界編集ツール」が突きつけた現実

Google Earth AIディープフェイクツールの概念

7月31日、GoogleはGoogle Earthに実装したばかりのAI画像生成機能「Nano Banana 2」をわずか1日で無効化しました。ユーザーがテキストプロンプトで衛星画像を書き換えられるこの機能——実質的に「現実世界のディープフェイク生成ツール」——は、デジタル調査メディア『Digital Digging』のHenk van Ess氏によって、メキシコ国境付近に難民キャンプをでっち上げたり、ガザ地区の病院近くに爆撃クレーターを生成したりと、悪意ある改変が即座に可能であることが実証されたのです。

Googleの初期対応は「SynthID電子透かしを付与している」「有害トピックの生成はブロックしている」といった技術的ガードレールの説明に終始しましたが、翌日には完全撤退を決定しました。「責任あるAI」のスローガンが、実装段階でいかに脆いかを露見させる事例となりました。

この「即時ロールバック」は孤立した事象ではありません。同週には、Microsoft Copilot for Wordを経由してドキュメント間で自己増殖するAIワームの存在がセキュリティ研究者によって公開されました（Hacker News 383ポイント、298コメント）。悪意あるプロンプトを埋め込んだWord文書を開くだけで、Copilotがその指示を実行し、別の文書へ感染コードを書き込み、さらに拡散する——従来のマクロウイルスに相当する脅威が、LLMの自律実行能力を悪用して現実化したのです。

消費者向け「魔法のツール」が1日で引っ込められ、エンタープライズの生産性基盤が感染経路になる。この2つの事象は、AI安全ガバナンスのフェーズが「モデル整合性の研究」から「実装・配布レイヤーの防御」へ移行したことを如実に示しています。

防御レイヤーの三段階：消費者・企業・主権

消費者層：信頼のコストと「わからない」と言わせる設計

AI安全性とユーザー信頼の概念

Google Earth事件が示すのは、「生成即公開」のアーキテクチャそのものがリスクだという点です。SynthID透かしも、有害コンテンツフィルタも、プロンプトインジェクション耐性も、いずれも「事後検知」または「既知パターン遮断」に過ぎません。未知の悪用シナリオに対しては、機能自体を即座に停止できる「キルスイッチ」と、ユーザーに「これはAI生成かもしれない」と認識させるUI設計（透かし表示、出典提示、不確実性の明示）が実装時から必須になります。

Forbes JAPANが指摘する「AIの嘘を封じ込める最強プロンプト、『わからない』と言えない人工知能の弱点」も同根の問題です。モデルに「知らない」と応答させるインセンティブがない限り、ハルシネーションは仕様として残り続けます。消費者向けサービスでは、「不確実性の可視化」をデフォルトオンにする設計原則が、今後のリリース基準になるでしょう。

企業層：Copilotワームが暴いた「信頼境界の崩壊」

ドキュメントボーンワームの衝撃は、「文書を開くだけで感染する」という、ユーザー操作を必要としない駆動モデルにあります。従来のマクロセキュリティは「マクロの有効/無効」「信頼できる場所」など、ユーザー判断を前提としていました。だがLLMエージェントが文書内容を「読解・実行」するアーキテクチャでは、文書そのものが実行可能コードになります。

Google Cloudが7月31日に国内提供を開始した**「AI Threat Defense」**は、この文脈でのエンタープライズ対応です。プロンプトインジェクション検知、モデル出力の異常スコアリング、データ流出防止（DLP）統合、エージェント行動の監査ログ化——これらをマネージドサービスとして提供し、企業が自前でハーネスを構築せずに防御層を導入できるようにします。

ZDNET Japanの取材では、Google Cloud担当者が「プロンプトインジェクション対策はシグネチャベースでは追いつかないため、意味的異常検知と行動ベースライン学習を組み合わせている」と語っています。まさに**「ハーネス内製必須」から「ハーネス調達可能」への選択肢拡大**ですが、ブラックボックス防御に依存しきるリスクも残ります。

主権層：日本が構築する「三層主権マトリクス」

日本の主権的AIスタック概念図

ここで日本の動きが注目されます。6月30日、国内大手企業が共同出資するAI開発会社「日本AI基盤モデル開発」が新名称「Noetra（ノエトラ）」で始動、産業技術総合研究所（産総研）と国産マルチモーダルAI開発に着手したことがITmediaで報じられました。同年7月には、Preferred Networks（PFN）が防衛装備庁に採用され、「シミュレーション×強化学習×エッジ推論」スタックが最も厳格な要件環境で実証されます。

これらは偶然の一致ではありません。データ＝絶対主権（国産データ・国内学習・国内保管）、モデル＝選択的主権（オープンウェイト同盟参加・ライセンス精査・ファインチューニング内製）、実装＝内製主権（ハーネス・オーケストレーション・レッドチーミング・評価基盤の自前構築）——この三層マトリクスを、日本政府・大手企業・研究機関が分担して埋め始めています。

7月29日のOpen Secure AI Alliance（OSAA）結成——Meta、IBM、Intel、AMD、Oracleらが「オープンウェイト防衛＝米国リーダーシップ維持」を掲げる動き——も、この「モデル層の選択的主権」を後押しします。同時にWiredが暴いた「OpenAI・Palantir系スーパーPACによる中国AI脅威論インフルエンサー拡散工作」は、「誰がどの資金でナラティブを流すか」を読み解くリテラシーが、モデル選定の前提条件になっていることを示唆します。

日本企業が今問われる三つのアクション

1. エージェントハーネスの「調達か内製か」を事業単位で決める

Google CloudのAI Threat Defenseのようなマネージド防御は、標準的なプロンプトインジェクション・データ流出・出力異常には有効です。しかし、自社固有の業務フロー・データ分類・リスク許容度に合わせたレッドチーミング・評価データセット・インシデント対応プレイブックまではカバーしません。PFNが防衛装備庁案件で示したように、「最も厳格な要件環境で通るハーネス」を内製できる組織だけが、主権的実装層の旗手になれます。

中堅・中小企業は「調達＋自社データでのファインチューニング評価」のハイブリッドで始め、段階的に評価基盤を内製化するロードマップが現実的です。

2. 「オープンウェイト＝安全」神話を卒業し、サプライチェーン全体を検査する

OSAA参加メンバーの顔ぶれを見れば分かる通り、オープンウェイトモデルの「透明性」はセキュリティ保証ではありません。Moonshot AI「Kimi K3」の無償公開・35億ドル調達という「攻めのオープンウェイト外交」も、ライセンス条項・学習データ出所・バックドア検査なしに採用すれば、サプライチェーン攻撃の入口になりうります。

Noetraが産総研と組む意義は、「学習データ・学習プロセス・チェックポイント・評価ログ」を国内でトレース可能にする点にあります。モデル選定時には、Hugging Faceリポジトリのスター数ではなく、「SBOM（Software Bill of Materials）相当のモデル構成証明書」が提示できるかを調達基準に組み込むべきです。

3. フィジカルAI実装を「実証実験」から「運用前提」で設計する

PFN防衛採用、AWS Summit JapanでのPhysical AI展示、ソフトバンク×OpenAI「Patching as a Service」——これらに共通するのは、「シミュレーションで学習し、エッジで推論し、物理世界にフィードバックする」閉ループが、実験室から現場へ出始めていることです。

日本の製造・インフラ・防衛・災害対応現場では、「データ送らない・レイテンシ許容しない・サブスク依存しない」三大要請が、クラウド完結型AIを拒否し、エッジ・オンプレ・ハイブリッド構成を標準化させつつあります。HP×楽天「Rakuten AI for Desktop」（オンデバイス7B LLM）、Google「Lyria 3.5」（ローカル音楽生成）、デジタル庁「源内」の被災自治体緊急提供——これらはすべて、「接続前提を外したAI実装」が日本市場でデファクトになる兆しです。

編集後記：守りのインフラを誰が運ぶか

Google Earthの1日撤退、Copilotワームの発見、AI Threat Defenseの国内提供、Noetra始動、PFN防衛採用、OSAA結成、Wired暴露——この1週間のニュース群を俯瞰すると、「攻め（モデル性能競争・機能リリース速度・ユーザー獲得）」から「守り（安全性・主権性・運用継続性）」へのパラダイムシフトが完了した感があります。

かつて「AIインフラ投資レース」と呼ばれたフェーズで、MicrosoftはCapEx据え置き（効率化シフト）、Metaは1450億ドル拡大（スケール継続）と分かれました。勝負は「単位当たり推論コスト」と「ガバナンス対応コスト」へ移りました。日本が選ぶべきは、**「データ主権を絶対とし、モデル主権を選択的に確保し、実装主権を内製で担保する」**という、派手さはないが揺るぎない防御ラインです。

次に問われるのは：「自社のAIエージェントが、明朝ドキュメントワームに感染しても業務を止めずに検知・隔離・復旧できるか」——その答えを持つ組織だけが、主権的AI時代の勝者になります。

関連記事

情報源

The Verge「Google Earth's AI deepfake tool only lasted one day」（Jay Peters, Stevie Bonifield, 2026-07-31）
The Verge「Here's the problem with putting an AI image generator in Google Earth」（Stevie Bonifield, 2026-07-31）
Hacker News「Document-borne AI worms can self-propagate through Copilot for Word」（383ポイント, 298コメント, 2026-07-29）
ZDNET Japan「グーグル・クラウド、『AI Threat Defense』の国内提供を発表」（2026-07-31）
ITmedia「国内大手が共同出資のAI開発企業『日本AI基盤モデル開発』、新名称『Noetra』で始動産総研と国産マルチモーダルAI開発へ」（2026-06-30）
ロイター「米国株式市場＝続伸、アマゾン好決算でAI投資懸念和らぐ」（2026-07-31）
日本経済新聞「コンサル7社、日本人員10万人超え企業のAI導入支援で膨張」（2026-06-19）
Wired「Super PAC backed by OpenAI and Palantir is paying TikTok influencers to fear-monger about China」（2026-07-27）
過去のSmart Kurashi記事（7/30 AIインフラ分岐点、7/18 フィジカルAI垂直スタック、7/28 オープンウェイト同盟）