AIを動かす許可は一社で決められない——国際ルール・接続先・利用者救済の三つの入口

AIエージェントを業務へ入れるとき、多くの企業は自社の承認フローから考えます。情報システム部門が安全性を審査し、法務が規約を読み、事業部が利用目的を決めれば、導入できると考えがちです。しかし、AIが自社の画面を越えて外部サービスへ入り、商品を選び、顧客へ約束し、端末機能を実行する段階では、自社の許可だけでは動かせません。

2026年9月、国連の科学パネルは、高度なAIの損失が科学的に完全には分からなくても、重大または不可逆な被害を避ける対策を先送りすべきではないと述べました。同じ日に、AmazonがMetaの買い物AI「Muse」によるアクセスを遮断したと報じられました。さらにAppleは、AIで強化したSiriを巡る米国の集団訴訟について2億5000万ドルの和解手続きを進めています。三件は規模も法的性質も異なり、同じ結論を直接証明するものではありません。それでも、AIを動かす許可が一枚では足りないことを示す材料になります。

日本企業が先に設計すべきなのは、万能なAI利用規程ではありません。公共の最低線、接続先の入場条件、利用者との約束と救済という三つの入口を分け、それぞれが閉じたときに仕事を安全に戻せる仕組みです。本記事では、導入の速さではなく、許可の所在、失効、異議申立て、縮退を一つの運用へまとめます。

結論——AIには三つの入口と一つの撤収経路が必要です

AIエージェントへ「使ってよい」と伝えるだけでは足りません。少なくとも次の三つの入口を通す必要があります。

入口	許可する主体	主に確認すること	閉じたときの代替
公共の入口	法令、規制当局、業界基準、国際的な科学評価	人権、安全、説明責任、重大被害の予防	機能を限定し、人の手続きへ戻します
接続先の入口	EC、金融、クラウド、業務SaaSなどの提供者	識別、認証、利用規約、負荷、データ取得、取引権限	正式API、認定連携、手動操作へ切り替えます
利用者の入口	顧客、従業員、購入者、端末所有者	何を約束したか、何が提供されたか、取消、返金、訂正	再提供、解約、返金、問い合わせ、証拠保存へ進みます

三つは互いの代用品ではありません。政府が明示的に禁止していなくても、接続先は自社サービスへのAIアクセスを拒めます。接続先が許可していても、顧客へ告知した機能が期日どおり提供されなければ、契約や表示の問題が残ります。利用者が同意していても、重大な安全上の外部影響まで自由に許可できるわけではありません。

そして、どれか一つが閉じたときの撤収経路が必要です。AIを止めた結果、注文、問い合わせ、障害対応、顧客データの削除まで止まるなら、入口管理は安全装置ではなく単一障害点になります。AIなしで最低限の仕事を終えられること、途中状態を人へ渡せること、不要な資格情報を失効できることまでを導入条件にします。

国連報告が問うのは「確率が分からないから待つ」という姿勢です

The Vergeが報じた国連科学パネルの初の主要評価は、OpenAIを巡るHugging Faceへの侵害事案を受け、高度なAIエージェントのリスクへ国際的な注意と資源を増やす必要があるとしています。記事によると、パネルは損失制御の問題を、被害が重大または不可逆になり得る一方で発生確率が科学的に不確かな領域として扱い、予防原則を適用する考えを示しました。

ここで重要なのは、「何か危険そうだから全部止める」という読み方ではありません。予防原則は、不確実性をゼロへするまで何もしないことと、根拠のない全面禁止の間にあります。想定する被害の大きさ、戻せるかどうか、影響を受ける人、利用できる代替策、対策の費用を分け、段階的な制限を置く考え方です。

日本企業なら、AIの能力名ではなく操作の結果で段階を決められます。公開情報の要約は低い権限で試せます。社内文書の横断検索は閲覧範囲と保持期間を限定します。顧客への送信、契約変更、支払い、公開設定、本番環境の変更は、誤りを後から完全に戻せないため別の関門へ置きます。

AIの検索・判定・生成・実行を四工程へ分けた記事でも、文章を作る能力と外部へ作用する権限を分離しました。今回の三つの入口は、その実行工程をさらに外側から囲むものです。社内で実行を許しても、公共の最低線、接続先の条件、利用者への約束を通らなければ外へ出しません。

不確実な段階では、次の順番が実用的です。

1. 読み取り専用で始め、取得元と時刻を記録します。
2. 提案を作っても外部へ送らず、人が差分を確認します。
3. 取消可能な操作だけを短い有効期限で許します。
4. 低い件数上限と金額上限を置きます。
5. 異常時は即時停止ではなく、安全な手動経路へ縮退します。
6. 事故がなくても期限を決めて権限を失効させます。

「まだ危険性が証明されていない」は、無制限に接続する理由にはなりません。一方で「危険性が完全には分からない」ことを、現場の学習を永遠に止める理由にもできません。狭い権限、短い期間、戻せる操作、観測できる記録を組み合わせ、不確実性の中で学べる範囲を作ります。

Amazonの遮断は、利用者の同意と接続先の同意が別だと示します

AmazonがMetaのMuseによる買い物アクセスを遮断したという報道では、Museの利用者に対し、許可されていないAIエージェントによる継続アクセスがAmazonの利用条件に反するという表示が出たとされています。Amazon側は、他社の代理で購入する第三者アプリは、自らを明示し、サービス提供者が参加するかどうかの判断を尊重すべきだとの趣旨を説明しています。

報道は、MetaがMuseについて安全なログイン情報やカード情報を見られないと説明していた一方、Amazon側が識別、資格情報、プライバシーへ懸念を示したことも伝えています。各社の主張だけから、実際にどの情報へ到達したかを断定はできません。ここで日本企業が持ち帰るべきなのは、どちらの会社が正しいかという勝敗ではなく、利用者が「買ってよい」と頼んだことと、店舗が「この代理人を入れてよい」と認めたことは別だという境界です。

人に置き換えると分かりやすくなります。顧客が知人へ買い物を頼んでも、知人が顧客のIDとパスワードを受け取り、人間向け画面を自動巡回し、大量の情報を保存してよいとは限りません。正規の代理購入制度、法人アカウント、API、委任状、購入上限が必要になる場合があります。AIエージェントにも同じように、依頼者、実行者、接続手段、保存情報、取引責任を分けた身分証が必要です。

企業向けの「接続身分証」には、少なくとも次を含めます。

• エージェントの運営者と問い合わせ先
• 依頼した利用者または業務部門
• 読み取り、検索、カート追加、発注、取消の権限範囲
• 利用する正式APIまたは認定された画面操作方式
• 資格情報を保持する主体と保存期間
• 接続先へ送る識別情報
• 一時間当たりのアクセス件数と取引上限
• 取得データを学習や別目的へ使うか
• 誤発注、二重発注、価格変更時の取消手順
• 接続先が拒否したときの停止方法

この身分証は、社内台帳だけに置いても不十分です。接続先が機械的に識別でき、拒否や条件変更を返せる必要があります。人間向け画面を裏側から操作し、遮断されるたびに回避策を加える運用は、技術的に動いても事業継続性が低い状態です。相手の画面構成、Bot対策、規約解釈が変わるたびに業務が止まり、顧客対応だけが自社へ残ります。

会話型広告とエージェントの依頼者・実行者・利益主体を分けた記事で扱ったように、推薦と取引実行の間には商業的な関係もあります。AIが商品を勧める理由が利用者の条件なのか、広告なのか、在庫都合なのか、提携報酬なのかを表示しなければなりません。入場を許されたことは、中立な推薦者として認められたことを意味しません。

Siriの和解は、提供前の期待も運用対象になると示します

AppleのSiriを巡る米国での集団訴訟和解手続きについて、The Vergeは、対象となる米国のiPhone所有者が請求を提出できる段階に入ったと報じました。記事によると、訴訟は2024年の開発者会議で示されたAI機能がiPhone 16と同時期に提供されるという明確で合理的な期待を作ったと主張し、実際には限定された機能で発売され、強化版Siriは後に延期されたとしています。Appleは不正行為を否定しています。

これは米国の和解であり、日本の購入者へ同じ請求権があるという話ではありません。また、和解は裁判で全ての主張が事実認定されたこととも異なります。それでも、AI製品の運用がリリース後の精度管理だけでは終わらない点は重要です。広告、発表会、製品名、予約ページ、店頭説明が作った期待も、後から追える形で管理する必要があります。

AI機能は、従来の固定機能より提供条件が揺れやすくなります。地域、言語、端末、アカウント種別、待機リスト、クラウド容量、規制対応、段階配信で利用可否が変わります。ところが販売表示で「AI搭載」と一括りにすると、利用者は購入時点で何が使え、何が将来予定なのかを区別できません。

日本企業は、機能を次の四状態で表示すると混乱を減らせます。

状態	表示する内容	売り手が残す証拠
提供中	対象地域、言語、端末、料金、制限	利用手順、稼働状況、変更履歴
段階提供中	対象者の選び方、待機期間、未提供時の扱い	配布率、障害、問い合わせ記録
発表済み	予定時期、依存条件、変更可能性	発表版、承認者、延期判断
構想・試験中	製品購入の根拠にすべきでないこと	試験範囲、参加同意、終了条件

発売後に予定が変わること自体をゼロにはできません。問題は、約束を静かに書き換え、古い広告だけが販売現場へ残ることです。延期するときは、対象機能、旧予定、新予定、現時点で使える代替、解約や返品の条件、問い合わせ先を同じ場所へ示します。将来機能が購入判断の中心だった場合は、単なる更新通知ではなく、救済の選択肢まで含めます。

三つの入口を一枚の「AI通行票」で結びます

公共、接続先、利用者の入口を別々の部署が管理すると、全員が自分の確認を終えても、誰も全体を見ていない状態が生まれます。そこで一つのAI機能ごとに通行票を作り、入口の判断を同じ機能番号へ結びます。

通行票には十二項目を置きます。

1. 機能名ではなく、利用者が完了したい仕事
2. AIが読む情報と、その取得目的
3. AIが作る提案と、外部へ実行する操作
4. 影響を受けるが直接同意しない人
5. 適用する法令、社内規程、業界基準
6. 接続先と、正式に認められた接続方式
7. 利用者へ表示した現在機能と将来予定
8. 金額、件数、時間、データ範囲の上限
9. 停止条件と資格情報の失効方法
10. 人または旧手順へ戻す方法
11. 誤りの訂正、取消、返金、異議申立て
12. 次回審査日と責任者

大切なのは、すべてを「承認済み」という一つの緑色へまとめないことです。公共の入口は通っているが接続先の許可が期限切れ、接続は認められているが販売表示が古い、利用者への救済はあるがAI停止後の手動処理が遅い、といった差を残します。総合点へ圧縮すると、最も弱い入口が隠れます。

日本企業が30日で行う入口点検

最初の10日——AIが越える境界を描きます

一つの機能を選び、利用者の依頼から完了までを時系列で書きます。社内検索だけに見えても、クラウドストレージ、翻訳API、メール、顧客管理、決済へ接続しているかもしれません。画面の裏で別社サービスへ入るたびに境界線を引きます。

各境界で、誰のアカウントを使うか、エージェントが自らを名乗るか、正式APIか、人間向け画面の自動操作か、何を保存するかを記録します。利用者の同意だけで通していた接続先があれば、相手の開発者規約、契約、認定制度を確認します。

同時に、公開中の広告、営業資料、利用規約、ヘルプ、画面内説明を集めます。同じ機能が「提供中」「近日公開」「試験中」と別々に書かれていないかを調べます。

次の10日——三つの入口を別々に閉じます

訓練では、全システムを同時に止めません。まず公共の入口が閉じた想定として、高リスク操作だけを停止し、読み取りや提案を続けられるか試します。次に接続先がAIアクセスを拒否した想定で、正式API、手動操作、別サービスへ切り替えます。最後に利用者が同意を撤回した想定で、その人の履歴、保存情報、将来提案を止めます。

停止時には次を測ります。

• 停止判断から実行までの時間
• 失効できなかった資格情報の数
• 途中取引を重複なく引き継げた割合
• 顧客へ現在状態を説明できた割合
• 手動経路で期限内に完了した割合
• 不要データと派生物を削除する時間
• 訂正、取消、返金までの時間

最後の10日——約束と現物を照合します

営業担当、法務、開発、サポートが同じ通行票を見て、公開表示と実際の機能を照合します。予定機能は予定と明記し、提供条件を地域、言語、端末、料金ごとに分けます。延期時の通知文と救済手順も、事故が起きる前に作ります。

最後に、AIを止めたまま一日運用します。人が最初から情報を集め直す、接続先の注文履歴へ入れない、顧客へ説明する担当がいないなら、撤収経路は完成していません。AIの再開を急ぐ前に、仕事がAIなしでも閉じる状態を作ります。

毎月見る七つの指標

入口管理では、AIの利用者数や自動化率だけを成功指標にしません。少なくとも次を並べます。

• 接続識別率：外部サービスへ入るAIが運営者と目的を識別できた割合です。
• 正式経路率：認定APIや合意済み連携で実行した割合です。
• 表示一致率：販売・ヘルプ・画面の提供状態が実機能と一致した割合です。
• 失効時間：拒否や撤回から権限と資格情報を止めるまでの時間です。
• 縮退完了率：一つの入口が閉じても期限内に手動または代替で終えた割合です。
• 救済完了時間：訂正、取消、返金、削除を終えるまでの時間です。
• 再発接続率：一度拒否された経路へ設定変更後に誤って再接続した割合です。

正式経路率を上げるために接続先を一社へ集中すれば、障害時の縮退が弱くなる場合があります。表示一致率を上げるために予定機能を一切語らなければ、利用者へ開発方向を説明しにくくなります。七指標を一つの点数へせず、重要度に応じて緊張を残します。

出典と証拠の境界

本記事は、2026年9月21日時点の報道と公開情報を基に整理しています。

• The Verge：国連科学パネルと予防原則
• The Verge：AmazonによるMeta Museの遮断
• The Verge：AppleのSiriを巡る米国の和解請求手続き
• ITmedia NEWS：米大統領がAI Force創設を表明

国連パネルの提言は各国で直ちに同じ法的義務を生むものではありません。AmazonとMetaを巡る報道から両社システムの内部挙動を断定することもできません。Appleの和解は米国の対象者に関する手続きであり、日本で同一の権利や責任が確定したことを意味しません。本記事では三件を因果関係として結ばず、AI導入の入口を分けて考えるための異なる事例として扱いました。

結論——速く入れる企業より、入口を失っても続けられる企業へ

AI導入の競争では、接続数、機能数、自動化率が目立ちます。しかし、社会の最低線が変わり、接続先が参加を拒み、利用者が約束との差へ異議を申し立てることは、失敗ではなく通常の運用条件になっていきます。

日本企業が強くなる方法は、すべての入口を永遠に開けてもらうことではありません。誰が何を許したかを分け、許可が期限切れになれば止め、別経路へ戻し、影響を受けた人へ説明し、訂正や取消を完了できることです。AIの賢さではなく、入口と撤収の設計が事業の継続性を決めます。

あなたの会社のAIは、接続先から自分が誰かを識別でき、利用者へ現在の提供範囲を説明でき、一つの入口が閉じても今日の仕事を終えられるでしょうか。次の機能を追加する前に、三つの入口を一度ずつ閉じる訓練から始める価値があります。