AIエージェントに必要なのは賢さより「ルールの賞味期限」——法令違反リスク13.4％から考える日本企業の設計

AIエージェントへ最新モデルをつなぎ、社内文書を検索できるようにしても、仕事が安全になるとは限りません。検索先に古い規定、廃止された手順、担当者不明の資料が混ざっていれば、AIは古い判断を速く、広く、もっともらしく実行するからです。

2026年10月、＠ITは、AIエージェントを利用または検証している人のうち、古い社内ルールや最新版か分からないデータの参照によって、規定・法令に違反しそうになった、または実際に違反した経験がある回答者が13.4％だったと報じました。同じ調査では、損害につながった経験が8.0％、シャドーAIがあるとの回答が38.7％でした。一方、The VergeはMicrosoftのサティア・ナデラCEOが、AIモデルは侵害されていると仮定して最初から封じ込め、権限を持つ人が処理の途中でも停止できる仕組みを求めたと伝えています。

この二つは、別々の問題ではありません。外から攻撃されていなくても、内部の古いルールを正しいものとして実行すれば、結果は境界越えになります。日本企業が次に整えるべきなのは、AIへ「正しい答えを出して」と頼むプロンプトではなく、根拠となる文書に賞味期限、所有者、適用範囲、停止条件を持たせる仕組みです。

以前の記事では、AIの出力を生成済みから採用済みまで分ける検証待ち在庫の管理を整理しました。また、外部へ副作用を出さずに能力を測るAIの評価用世界も提案しました。今回は、その前提となる「AIが何を現行ルールとして読んでよいか」を設計します。

結論——社内文書を保管物ではなく、期限付きの実行部品として扱います

AIエージェントが参照する規定、手順書、価格表、顧客対応例、権限表は、単なる参考資料ではありません。回答、申請、発注、通知、設計変更の根拠になる実行部品です。人なら「この資料は古そうだ」と表紙や周囲の会話から気付けても、AIは取得できた文書を現在有効な根拠として扱う場合があります。

そのため、文書一件ごとに最低でも次の六項目を付けます。

項目	記録する内容	AIの扱い
発効日	いつから使えるか	発効前は回答根拠にしません
失効日・再確認日	いつ見直すか	期限超過後は参考扱いか停止にします
所有者	更新と廃止を決める人	不明なら自動実行へ進めません
適用範囲	部門、地域、製品、顧客、契約	範囲外へ転用しません
優先順位	法令、全社規定、部門手順、参考例	競合時に上位へ戻します
停止条件	不一致、欠落、高影響、緊急変更	人へ移管し、途中停止できます

大切なのは、更新日だけを付けて安心しないことです。昨日更新された文書でも、誰が承認したか、どの支社に適用するか、旧版をいつ失効させたかが不明なら、現場では競合が残ります。反対に、一年前の規定でも、法務責任者が有効性を再確認し、適用範囲が明記されていれば、根拠として使える場合があります。

「最新ファイルを取る」だけではなく、「現在の案件に対して有効な版を一つに決める」ことが必要です。これがルールの賞味期限という考え方です。

約7人に1人のリスクは、モデル性能だけでは解けません

＠ITが紹介したKiteRaの調査は、20歳以上のビジネスパーソン1万1075人を対象に実施されました。そのうち、勤務先でAIエージェントを利用または検証していると答えた1206人へ、データガバナンスやトラブルを尋ねています。

古い社内ルールや最新版か分からないデータをAIが連携・参照した結果、規定や法令の違反に関わる危険を経験した回答者は13.4％でした。会社の損害につながった経験は8.0％です。これは日本企業全体の事故率ではありません。調査対象、自己申告、複数回答という条件があり、実害とその一歩手前も含まれます。それでも、モデルが答えを作れることと、その根拠が現行であることは別問題だと示す数字です。

同じ調査では、許可されていない、または許可の有無が分からないAIツールへ社内規定やデータを入力・共有した経験の合計が49.7％でした。シャドーITがあるとの回答は44.9％、シャドーAIは38.7％、シャドーデータは36.2％です。会社が公式AIを一つ導入しても、使える資料と使えない資料、許可された経路と非公式経路が見分けにくければ、利用者は手近な道具へコピーします。

ここで「従業員教育が足りない」と結論付けるだけでは不十分です。最新版を探すのに時間がかかり、公式AIは対象資料へ接続できず、承認に数日かかる一方、非公式サービスなら数分で終わる設計なら、便利な抜け道が選ばれます。安全な経路を、禁止された経路よりも見つけやすく、使いやすくする必要があります。

調査では、社内規定やデータの最新性・正確性を「あまり信頼できない」「全く信頼できない」とした回答が合計20.9％でした。AIエージェント向けの規定や手順書が、最新の状態で整備され、必要なときに参照できるとの回答は34.4％にとどまります。AIの導入速度だけを上げると、残りの組織では古い知識を自動化する可能性があります。

経営課題と認めても、更新責任が経営の仕事になっていません

同調査では、AIエージェント活用に伴う社内ルールやガバナンス体制の遅れを「深刻な経営課題」または「ある程度の経営課題」と考える回答が合計60.0％でした。一方、経営層がデータガバナンス方針の策定や推進へ「ほとんど関与していない」とする回答が30.8％で最多でした。

このずれが重要です。データガバナンスを情報システム部門だけの保管作業にすると、どの規定を優先するか、売上機会と法令順守が衝突したとき誰が止めるか、部門独自ルールをいつ全社化するかを決められません。文書の置き場所は技術課題ですが、文書の有効性と優先順位は経営判断です。

全社的な方針やガイドラインが定められているとの回答は38.2％、部署・部門ごとに個別に定められているとの回答は25.5％でした。策定・検討中と未策定を合わせると26.6％です。部門ルールが存在すること自体は悪くありません。営業、製造、医療、金融、海外拠点では必要な境界が違います。問題は、全社規定と部門規定が競合したときの優先順位と、例外を承認する人が見えないことです。

経営層に求められるのは、全ての文書を読むことではありません。高影響な判断へ使う資料群を指定し、その所有者、更新頻度、競合時の決定者、停止後の業務継続を承認することです。月次会議ではAI利用者数だけでなく、期限切れ文書数、所有者不明文書数、競合解消までの日数、停止後に人へ移管できた割合を確認します。

マルチエージェント化で「どのモデルか」より「どの根拠か」が難しくなります

ITmedia AI＋の報道によると、Google Cloudの「Gemini agent」は企業向けAI基盤のGemini Enterpriseに続くサービスで、単一モデルへ固定されないことを特徴とします。チャット、自律的な業務、コーディングを一つの入口から実行し、端末を閉じた後もクラウドでタスクを続ける構想です。Google Workspace、Microsoft 365、Slack、コマンドラインなど複数の経路から利用できると説明されています。日本での提供開始時期は、記事掲載時点で未定です。

モデルを仕事ごとに選べることは、能力とコストの両面で利点があります。しかし、利用者が見ている一つの入力欄の裏で、複数のモデル、検索先、道具、実行経路が動くなら、結果だけから責任経路を推測しにくくなります。どのモデルが答えたかだけでなく、どの規定の何版を読み、どの地域のルールを適用し、どの権限で操作したかを一件ごとに残す必要があります。

以前の記事で提案した能力アクセス表には、必要能力、データ境界、実行権限、利用枠、代替経路を記録しました。今回そこへ「根拠の有効性」を追加します。能力が高いモデルでも、期限切れの就業規則を読めば正しい労務判断にはなりません。利用枠が十分でも、価格表の適用開始日を見落とせば誤見積もりになります。

マルチエージェント環境では、出力へ次の「根拠票」を付けます。

1. 依頼した業務と影響範囲
2. 実際に使ったモデル、版、道具
3. 参照した文書の識別子、版、発効日
4. 適用した部門、地域、顧客区分
5. 競合した資料と採用した優先順位
6. 人が承認した箇所と自動実行した箇所
7. 停止、差し戻し、訂正ができる窓口

この票は、監査のためだけに後から作るものではありません。AIが処理を始める前に、必要な欄が埋まらなければ実行範囲を狭める制御に使います。たとえば、回答の下書きは続けても、顧客送信や発注は止めるという段階分けができます。

「侵害されていると仮定する」を古い社内知識にも適用します

The Vergeの記事は、ナデラCEOが、AIを入れ子のブラックボックスとして助言や行動を受け入れるのではなく、封じ込め、観測し、人が読める改ざん耐性のある証拠を残す仕組みを求めたと伝えています。さらに、モデルは侵害されていると仮定し、権限を持つ人がタスクの途中でも一時停止・終了できる緊急ブレーキが必要だとしています。

この原則は、外部攻撃だけに使うものではありません。社内文書も、次の更新まで常に正しいと仮定せず、古い、誤っている、適用範囲が違う、承認されていない可能性を持つ入力として扱います。疑うことと使わないことは同じではありません。証拠の強さに応じて、できる操作を変えます。

根拠の状態	AIに許すこと	人へ戻す条件
現行・所有者あり・範囲一致	下書き、分類、定型処理	高額、対外公開、例外案件
現行だが競合あり	比較表と差分の作成	優先順位の決定
再確認日を超過	候補提示と不足情報の列挙	実行、送信、承認
所有者不明	文書探索と担当候補の提示	業務判断の確定
法令・全社規定と不一致	処理停止と通知	責任者の明示的な再開

緊急ブレーキは、画面上の停止ボタンだけでは足りません。送信待ちのメールを取り消せるか、発注APIの資格情報を無効化できるか、作成済みファイルを隔離できるか、顧客へ訂正を届けられるかまで設計します。停止した後に担当者が同じ案件を引き継げなければ、現場はブレーキを使いにくくなります。

また、全ての判断を人へ戻せば安全になるわけでもありません。警告が多すぎると承認が形式化し、古い資料を開いたまま「確認済み」を押す承認疲れが起きます。金銭、契約、雇用、健康、安全、公開、機器操作など影響の大きい処理へ確認を集中し、低影響で取り消せる作業は記録を残して進めます。

文書の最新版は、ファイル名ではなく決定の連鎖で作ります

多くの共有フォルダーには「最終」「最終2」「最新版」「修正版」といった名前が並びます。AIへ最終更新時刻が新しいファイルを選ばせても、正式承認前の草案を拾うかもしれません。ファイル名や時刻は手掛かりであり、現行性の証明ではありません。

有効な版を決める流れは、次のように分けます。

• 作成者が変更理由と影響範囲を書く
• 所有者が内容を承認する
• 発効日時を決める
• 旧版へ失効状態を付ける
• 検索対象から旧版を外すか、履歴として明示する
• 接続するAIと業務を再評価する
• 変更後の代表案件と例外案件を試す
• 利用者へ変更点と戻し方を伝える

AI検索基盤へ新ファイルを入れる作業だけを自動化すると、旧版が検索結果へ残り、新旧を混ぜた回答が生まれます。更新とは追加ではなく、旧版を閉じ、現行版を一つへ収束させる作業です。

法律、就業規則、商品価格、セキュリティ手順のように更新頻度が違う情報へ、同じ再確認周期を設定する必要はありません。法令改正や事故時に即時更新するもの、四半期ごとに見るもの、年次で足りるものを分けます。ただし、周期が長い文書にも所有者と臨時更新の入口は必要です。

変更通知は「資料を更新しました」で終わらせません。何が変わり、どの業務とAIが影響を受け、旧版のどの判断が無効になり、再実行が必要な案件は何かを伝えます。すでにAIが旧版で処理した案件を検索できる記録があれば、影響範囲を限定できます。

日本企業向けの「ルール有効性カード」は八欄で始められます

大規模なデータ基盤を導入する前でも、一つの高影響業務で次の八欄をそろえられます。

欄	記入例
業務	取引先への見積もり回答
現行根拠	価格表2026年10月版、値引き規定第4版
発効・再確認	10月1日発効、11月1日再確認
所有者	営業企画責任者、法務責任者
適用範囲	国内法人、新規契約、標準製品
競合時の優先	契約、全社規定、部門手順、過去例の順
自動化上限	下書きまで。送信と値引き承認は人が行う
停止と復帰	期限切れ、競合、上限超過で停止し、所有者が再開

カードは文書単位ではなく業務単位で作るのがポイントです。一つの見積もりには価格表、在庫、契約、輸送、税、値引き権限が関わります。個々の文書が現行でも、組み合わせた結論が正しいとは限りません。仕事を完了するために必要な根拠一式をまとめます。

過去の問い合わせ回答や成功例は、規定より下位の参考資料とします。例外対応の履歴は価値がありますが、以前認められた値引きや個人情報の扱いが、現在も全顧客へ適用できるとは限りません。AIが過去例を規則へ昇格させないよう、決定と参考を分けます。

カードの所有者は「AI担当」に固定しません。AI担当は検索と実行基盤を管理できますが、値引き上限を決めるのは営業、労務規定を決めるのは人事と法務、設備停止条件を決めるのは製造と安全部門です。技術所有者と業務所有者を二人で持つ方が、更新停止を避けやすくなります。

指標は回答速度より、期限切れを使わなかった割合を見ます

AIエージェントの評価を、処理件数、削減時間、回答速度だけにすると、古い根拠でも止まらず処理する方が高得点になります。速度と一緒に、次の指標を置きます。

1. 現行版を一意に決められた業務の割合
2. 所有者不明の根拠数
3. 再確認日を超えた文書数と滞留日数
4. 新旧版の競合を実行前に検出した割合
5. 停止後に人へ引き継げた割合と時間
6. 旧版で処理した案件を追跡できた割合
7. 訂正、差し戻し、損害、規定違反の件数
8. 非公式AIや非公式保管先を使った理由

最後の指標は処罰のためではありません。公式経路のどこに摩擦があるかを見つけるためです。使いたい文書が検索できない、権限申請が遅い、出先で公式AIへ入れない、対応言語が足りない、といった理由を減らす方が、監視だけを強めるより持続します。

停止率が上がったときも、単純に失敗と扱いません。期限切れや競合を正しく止めたなら、それは事故を防いだ成果です。ただし、毎回同じ理由で止まるなら、所有者が更新していない、範囲が狭すぎる、カードが複雑すぎるという改善課題です。安全停止と業務停滞を分けて記録します。

30日で始めるなら、見積もり・採用・顧客通知の一つを選びます

第一週は、高影響で繰り返しが多い業務を一つ選びます。見積もり、採用候補者への連絡、顧客への契約案内、設備保守の指示などが候補です。過去一カ月の案件から、使った文書、所有者、版、例外、訂正を集めます。最初から全社文書を整理しようとしないことが大切です。

第二週は、ルール有効性カードを作ります。現行版を一つへ決め、旧版へ失効状態を付け、AI検索では現行版を優先します。期限や所有者が空欄の文書は削除せず、参考資料として隔離します。業務担当者が「なぜこの版か」を説明できることを確認します。

第三週は、意図的に古い資料を混ぜます。旧価格、廃止手順、別地域の規定、承認前の草案、期限切れの契約例を用意し、AIが競合を示して止まれるかを試します。正答率だけでなく、どの根拠を表示し、誰へ引き継ぎ、再開まで何分かかったかを測ります。

第四週は、実案件の下書きまで限定して運用します。送信や発注は人が行い、根拠票を見て承認します。期限切れ検出、競合、差し戻し、確認時間、公式経路を離れた理由を週次で見ます。合格しても、いきなり全面自動化せず、金額や顧客区分ごとに上限を広げます。

30日後の判断は、AIが何件答えたかではありません。期限切れを使わず、競合を見つけ、停止後も業務を続け、後から根拠を説明できたかです。処理時間が少し伸びても、訂正と事故が減り、更新責任が明確になれば、次の業務へ展開する土台になります。

出典

• ＠IT「AIエージェントで『約7人に1人が法令違反リスク』　古いルールを参照させた代償とは」（2026年10月13日）
• ITmedia AI＋「新サービス『Gemini agent』は企業向け、日本提供時期は未定」（2026年10月13日）
• The Verge「Satya Nadella says we should assume all AI models are ‘compromised’」（2026年10月10日）

次にAIへ仕事を渡す前に、その根拠はいつまで有効でしょうか

AIエージェントが古い規定を参照した問題は、モデルが十分に賢くなれば自然に消えるものではありません。モデルは、社内でどの文書が正式承認され、例外がいつ失効し、誰が責任を持つかを、整理されていない組織の代わりに決められないからです。

日本企業には、長年蓄積した手順書、稟議、議事録、顧客対応例という豊かな知識があります。その量は強みですが、有効な版と履歴、決定と参考、全社ルールと部門例外を分けなければ、AIにとっては矛盾した入力にもなります。知識を増やす次の投資は、保存容量ではなく、期限と所有者を付けて閉じる仕組みです。

次のAI導入会議では、モデル名や削減時間を決める前に、一件だけ尋ねてみてください。「このエージェントが明日使う規定は、誰が、いつまで有効だと保証し、間違っていたら途中で止められますか」。その答えを業務ごとに示せる組織から、AIの速度を事故ではなく継続的な改善へ変えられるのではないでしょうか。