生成人工知能は性能だけで選べない――提供停止と詐欺対策が示す新しい前提

生成人工知能を選ぶとき、つい「どれが一番賢いか」「どれが一番速いか」に目が行きます。けれど、今週のニュースは、その見方だけでは足りないことをはっきり示しました。アンスロピックは、クロード・ファブル5とクロード・ミトス5の提供を停止し、グーグルは人工知能を悪用した詐欺ネットワークへの対抗策を前面に打ち出しました。(アーズテクニカ, 2026)(グーグル)

つまり、生成人工知能は「性能の競争」だけでなく、「止まるリスク」と「悪用されるリスク」を同時に抱える基盤になった、ということです。日本の企業や個人が本当に見るべきなのは、モデルの点数ではありません。提供が止まったときにどう切り替えるか、記録をどう残すか、家族や顧客を詐欺からどう守るか。そこまで含めて、導入設計です。

以前、当サイトで人工知能詐欺対策を信頼基盤として整理した記事では、検出の巧さよりも「一次受付」と「本人確認」の設計が重要だと書きました。前回の信頼基盤の記事 が示したのは、まさに今回のニュースの裏返しです。守る側も、使う側も、人工知能を“単発の機能”ではなく“運用される仕組み”として見なければいけません。

止まる前提で考えると、見えるものが変わる

アンスロピックの件で重要なのは、単に「新モデルが一時停止した」ことではありません。高性能モデルとして期待を集めたファブル5とミトス5が、米政府の指示を受けて短期間で停止した、という事実そのものです。しかも、アンスロピックは即時の順守のために全顧客向けの提供停止を選びました。(アーズテクニカ, 2026)(ギガジン)

ここで見えてくるのは、生成人工知能の導入がすでに「通信回線」や「クラウドストレージ」に近い性質を持ち始めていることです。回線は突然止まることがあります。ストレージも障害を起こします。だから企業は、単一の回線や単一の保管先に依存しすぎないようにします。生成人工知能も同じです。あるモデルが優秀であっても、法規制、輸出管理、安全判断、提供方針の変更で使えなくなることがあります。

日本の現場では、ここがまだ甘く見られがちです。導入検討の段階では「このモデルは賢いか」「日本語は強いか」「月額はいくらか」が中心になります。もちろんそれも大事です。けれど、実務で問うべきは次の三つです。

1. もし使えなくなったら、どこへ切り替えるのか。
2. 切り替えたとき、過去の記録や評価基準は壊れないのか。
3. 切り替え後も、利用者の体験は連続していると感じられるのか。

この三つが答えられないなら、その導入はまだ「試用」であって、「運用」ではありません。

とくに日本企業は、社内の承認フロー、情報管理、外部委託の境界が細かい分、モデルの停止がそのまま業務停止につながりやすいです。営業資料の下書き、問い合わせの一次応答、社内ヘルプデスクの自動化、翻訳や要約。どれも「動いている前提」で設計されています。止まったときに人が戻れる導線がないと、現場は一気に詰まります。

詐欺対策は、モデル性能ではなく社会実装の問題です

一方でグーグルの発表は、生成人工知能のもう一つの顔を示しました。グーグルは、人工知能を使った詐欺ネットワーク「アウトサイダー・エンタープライズ」に対抗するため、訴訟、通信事業者との遮断、法整備の後押しを同時に進めると表明しました。記事では、9,000件の偽サイト、100万件超の不正アドレス、2週間で5万5,000件のスパム通報、そして250万件の詐欺メッセージという規模が示されています。(グーグル)

この数字の重さは、単に被害が大きいという意味だけではありません。人工知能の進化が、詐欺の“量産”を極端に安くしたということです。しかも詐欺は、生成人工知能そのものよりも、人間が反応しやすい導線――短文メッセージ、電話、偽サイト、緊急通知――に流し込まれます。つまり、問題はモデルの賢さではなく、悪用コストの低さです。

日本でこの話が刺さるのは、電話文化とメッセージ文化がまだ強いからです。配送通知を装う短文、銀行を名乗る連絡、家族を名乗るなりすまし。こうした手口は、すでに十分に身近です。人工知能が入ると、文面が自然になり、相手ごとの言い回しも変わり、見抜きにくくなります。

だからこそ、対策は「怪しい文面を見破る」だけでは足りません。こちら側の設計も必要です。

• 重要連絡は、ひとつの経路だけに寄せない。
• 電話番号やURLは、別経路でも確認できるようにする。
• 家族内で「合言葉」や「折り返しルール」を決める。
• 企業では、一次応答を人間だけに任せず、記録と照合を組み込む。

この考え方は、生成人工知能の導入そのものにも直結します。人工知能を使って詐欺を減らすには、詐欺の入口だけでなく、本人確認、記録保持、異常時の切り替えまで一体で設計しなければいけません。

日本企業が今すぐ確認すべき四つの設計

では、実務では何を見ればよいのでしょうか。私は、少なくとも四つあると考えます。

1. 単一事業者への固定依存を避ける

一つのモデル、一つの提供条件、一つの料金体系に業務を寄せすぎないことです。もっと強い言い方をすれば、単一事業者への固定依存は、便利さと引き換えに脆さを持ち込みます。今回のアンスロピックの停止は、その脆さを可視化しました。(ギガジン)

開発部門は、最初から二系統の候補を持っておくべきです。高品質側と安定側。日本語に強いものと、記録の扱いがしやすいもの。コストが高いが精度が高いものと、コストが安くて広く回せるもの。役割を分けるだけでも、停止時の被害はかなり減ります。

2. 記録と再現性を残す

生成人工知能の価値は、回答そのものだけではありません。どの条件で、どの入力に対して、どう出力したのかを再現できるかが、運用の質を決めます。提供停止が起きたときに困るのは、単にモデルが消えることではなく、過去の判断根拠が追えなくなることです。

社内で使うなら、要約や分類の結果だけ保存するのではなく、評価基準、入力テンプレート、承認ログも残すべきです。そうすれば別モデルに切り替えても、品質を比較できます。

3. 例外処理を業務に組み込む

「止まったら後で考える」は、業務設計としては不十分です。問い合わせ対応、社内文書生成、営業支援、家庭内の見守り。どの場面でも、人間に戻す手順を先に書いておく必要があります。誰が、いつ、どういう条件で、どこへ切り替えるのか。これを運用手順書に落としておくことが、実は一番の安全対策です。

4. 人間の確認を面倒がらない

人工知能が進歩しても、詐欺の最終的な防波堤は人間です。グーグルの発表が強調したのも、訴訟や通信遮断だけでなく、法整備やユーザー保護の積み上げでした。(グーグル)

企業であれば、重要な送金、規約変更、顧客情報の更新、契約条件の確認は、必ず人間の最終確認を通すべきです。家庭であれば、家族からの金銭依頼や緊急連絡は、別の手段で確認する癖をつけるべきです。

この四つを先に決めておくと、生成人工知能は“危うい新技術”ではなく、“管理しやすい道具”になります。

調達と法務が先に見るべき補助線

実際の導入では、技術部門だけでなく、調達と法務が先に確認しておくべき項目があります。サービスがいつでも同じように使えるのか、どの国のルールが優先されるのか、保存したデータはどこに置かれるのか、契約が切れたあとに出力やログをどこまで持ち出せるのか。ここを曖昧にしたまま進めると、あとで切り替えが必要になったときに、技術より契約が壁になります。

また、人工知能の運用では「機密に触れないから大丈夫」という発想も危険です。要約の断片、顧客の反応、内部の問い合わせ傾向。こうした情報が積み上がると、単体では小さく見えるデータでも、組み合わせ次第で十分にセンシティブになります。だから、入力の可否だけでなく、出力の再利用範囲まで含めて決めておく必要があります。

さらに、停止時の責任分界も重要です。外部事業者の都合でサービスが止まった場合、誰が現場に説明し、誰が代替手順を発動するのか。ここが決まっていない組織ほど、障害時に沈黙します。人工知能の導入は、便利な自動化を買うことではなく、運用の責任を明文化することでもあります。

家庭向けでも、同じ論点がそのまま当てはまる

この話は企業だけのものではありません。むしろ、個人利用のほうが油断しやすいです。家庭で生成人工知能を使う場面は増えています。献立の相談、宿題の補助、文面の下書き、家電の管理、詐欺メッセージの判定。便利さが増えるほど、止まったときの不便さと、誤った判断を信じてしまう危険も増えます。

とくに日本では、家族内での情報伝達が「電話」「短いメッセージ」「口頭」で済まされることがまだ多いです。そこに人工知能が自然な文章を作れるようになると、なりすましの説得力が上がります。だから家庭でも、次のルールが効きます。

• 送金や個人情報は、必ず別経路で確認する。
• 重要な連絡は、短文だけで判断しない。
• 高齢の家族には、怪しい文面の見分け方より「確認手順」を共有する。
• 便利な自動応答は使っても、最終判断は人が持つ。

ここでも本質は同じです。人工知能が賢いかどうかより、私たちがどう扱うかのほうが重要なのです。

アンスロピックの二面戦略を整理した記事 でも触れたように、モデル事業者は安全と拡張の両方を追っています。しかし利用者側は、その方針転換を待ってはくれません。だからこそ、家庭でも企業でも、バックアップと確認手順を先に持つ必要があります。

では、この先何が起きるのか。生成AIが社会に浸透していく中で、私たちに求められているのは何か。新しい技術を受け入れつつ、人間らしい判断を失わないこと。今後の動向から目が離せない。