AI同士が交渉を始めたら、件数ではなく「争点」を数える——医療請求と企業間取引が示す対話監査

AIエージェントの導入は、これまで「人がしていた作業をAIへ任せる」という一方向の話として語られてきました。ところが、次に起きるのはAIと人の交代だけではありません。発注するAIに対して受注するAIが応答し、請求を組み立てるAIに対して支払いを審査するAIが反論する、AI対AIの実務が始まっています。

ここで厄介なのは、双方の処理が速くなるほど、会社全体の仕事も速くなるとは限らないことです。それぞれのAIが自分の目的だけを正しく最適化すると、条件の追加、差し戻し、再申請、再審査が高速で往復し、人が最後に大きな争点の山を受け取る可能性があります。自動化率が上がっているのに、完了までの時間と費用が増える逆転です。

米国の医療請求で報告されたAI利用と費用増加、日本で実証された企業間AIエージェントの身元・権限確認を一緒に読むと、共通する課題が見えてきます。必要なのはAIをもう一体増やすことより、誰が何を委ね、どの根拠で条件が変わり、どの争点を人へ戻したかを一件単位で追える「対話監査」です。

二つのニュースが示す「AIの向こう側にもAIがいる」現実

米Blue Cross Blue Shield Associationは、病院のAIコーディングツール利用が広がる中、患者が医学的に複雑だと記録される割合が増え、2023年から2025年までに推計9億4200万ドルの追加医療費が生じたと分析しました。同団体によると、増加分の約70％、6億5000万ドル超は副次的な診断に結び付いていました。一方で、診断の複雑化に対応する治療の増加は確認できなかったとしています。

この数字は保険者側の請求データを使った分析であり、AIだけが費用増加の原因だと確定するものではありません。病院側には、診療記録へ残っていた状態を漏らさず記載し、提供した医療を正しく請求する必要があります。保険者側には、不要な費用や契約外の請求を抑える役割があります。両者の目的はどちらも正当ですが、AIが各目的を高い速度で追うと、診断コードの追加と査定が新しい応酬になり得ます。

TechCrunchはこの状況を取り上げ、病院と保険会社の双方がAIを使うことで、従来からあった支払いを巡る対立が強まる可能性を報じました。記事中で医療AI企業Abridgeの創業者は、「ボットとボット、エージェントとエージェントが戦う」望ましくない未来と、逆に緊張や費用を下げられる可能性の両方に触れています。問題はAIの存在そのものではなく、AI同士の主張をどこで収束させるかです。

日本では別の方向から、同じ課題への入口が示されました。GMOグローバルサイン・ホールディングスとVESS Labsは、異なる企業が開発した買い手側と売り手側のAIエージェントを接続し、身元、権限、人の承認、発注、模擬支払いまでをつなぐ実証を行いました。検証可能なデジタル証明書を使い、取引のたびに相手企業へ個別照会しなくても、相手が誰で、どこまで行動を許されているかを確認できる設計です。

実証では、認証情報の使い回し、失効済み証明書、購入内容の不正変更を拒否するケースを含め、2026年8月28日時点で281件の自動テストが正常に完了したと報告されています。ただし、実際の決済や商取引を行った試験ではありません。ここで証明されたのは商取引全体の安全ではなく、提示された身元・権限・承認を機械的に照合する基礎部分です。

二つを並べると、AI対AIの仕事には二段階があると分かります。第一段階は、相手が本物で、委任された範囲内にいるかを確認することです。第二段階は、両者の主張が食い違ったときに、根拠と費用を比べ、争いを終わらせることです。身分証だけでは交渉の妥当性まで保証できず、正しい権限を持つAI同士でも終わらない応酬は起こります。

日本企業に置き換えると、医療以外でも同じ構図になる

AI対AIの競合は、米国医療だけの特殊な話ではありません。日本企業でも、目的の異なる自動化を同じ取引へ入れれば発生します。

購買AIは、在庫切れを避けるために安全在庫を多めに確保しようとします。財務AIは、運転資金を守るために発注量を抑えようとします。販売AIは、値引きを使って受注率を上げようとします。利益管理AIは、粗利を守るために値引きを拒否しようとします。セキュリティAIは疑わしい操作を止め、業務継続AIは停止時間を短くするために処理を進めようとします。

それぞれが単体の評価指標では優秀でも、一件の注文が完了しなければ顧客価値は生まれません。しかも、人同士なら「今回はこの条件で終わらせる」と合意できる場面でも、AIが目標値を守り続けると、小さな差額を巡る再計算や再申請が大量に発生します。APIの呼び出し料、外部データ照会料、監査ログ保管費、担当者の例外対応時間が積み上がります。

カスタマーサポートでも同じです。顧客側の個人AIが返金条件を読み取り、販売会社のAIへ申請します。販売会社側は規約と注文履歴を確認し、不足情報を返します。個人AIは別の条文を引用して再申請します。双方が高速でも、証拠の版、購入時点の規約、商品の状態、例外を認める責任者が共有されなければ、往復回数だけが増えます。

広告取引では、出稿AIが成果単価を下げようとし、媒体AIが在庫価値を上げようとします。物流では、荷主AIが最短納期を求め、運送AIが積載効率と休息規制を守ろうとします。電力では、需要家AIが安い時間へ負荷を移し、供給側AIが同じ時間帯への集中を避けようとします。AI同士の交渉は例外ではなく、異なる目標を接続した時点で通常運用になります。

「安全なAI」と「終わる取引」は別の品質

AIエージェントの管理では、認証、最小権限、失効、停止ボタンが重要です。しかし、それらは主に不正な行動や許可範囲外の操作を防ぐ仕組みです。正当な相手が正当な権限で行う非効率な応酬は、それだけでは止まりません。

ここは、AI社員と複数エージェントの関係を四つの台帳で追う記事で整理した相互作用の問題を、企業間へ広げた場面です。社内なら共通の責任者が目標を調整できますが、会社を越えると、相手の内部評価指標は見えません。必要なのは内部ロジックの全面開示ではなく、取引を終えるための共通項目です。

また、AI事故を接続・事故・変更・追試の台帳へ分けた記事で扱った越境事故とも区別が必要です。今回の中心は、AIが無断で境界を越えることではありません。許可された範囲で双方が動き続け、争点の解消費用が成果を上回る「合法だが終わらない仕事」です。

安全性と完了性を分けると、運用指標も変わります。拒否できた不正操作の件数だけでなく、同じ根拠を何度交換したか、条件差が縮まったか、人へ移管した時点で証拠がそろっていたか、最終合意までにいくら使ったかを測る必要があります。

品質	主な問い	代表的な記録	失敗の例
身元	相手は誰のAIですか	発行者、組織、証明書、失効状態	なりすまし、古い証明書
権限	何をどこまで任されていますか	金額上限、対象品、期間、承認者	上限超過、対象外の発注
根拠	何を見て主張しましたか	規約版、データ時刻、証拠ID	古い価格、異なる診断条件
収束	争点は前回から減りましたか	差分、往復回数、残る論点	同じ主張の無限反復
救済	誰が止めて訂正できますか	移管先、期限、取消手順	人が全履歴を読み直す
費用	完了一件にいくら使いましたか	API費、照会費、人の時間	少額取引より審査費が高い

対話監査は「全会話保存」ではない

AI同士のやり取りを監査すると聞くと、すべての入力と出力を永久保存する設計を想像しがちです。しかし、それでは個人情報、営業秘密、医療情報を必要以上に複製し、保管費と漏えい時の影響を増やします。必要なのは会話の量ではなく、決定を再現する最小限の証拠です。

対話監査では、自然言語の全文とは別に、機械が比較できる「争点カード」を作ります。カードには、取引番号、当事者、目的、委任範囲、主張、根拠の参照先、前回からの差分、残る争点、次の期限、停止条件を入れます。機微な原文はアクセス制御された場所へ残し、カードには原文そのものではなく証拠IDと版を記録します。

これにより、担当者は百往復の会話を最初から読むのではなく、争点が三つから一つへ減ったのか、同じ一つを十回繰り返したのかを確認できます。後者なら、AIの追加推論ではなく、規約の曖昧さや権限者の不在を直すべきだと判断できます。

争点カードの更新にもルールが必要です。AIが自分に都合のよい要約へ書き換えないよう、双方が提示した根拠IDを別欄に残し、変更履歴へ署名または改ざん検知を付けます。合意していない内容を「合意済み」と要約できない構造にします。要約の流暢さより、前後差分が機械的に照合できることが重要です。

人へ戻す条件を「難しそう」ではなく数値で決める

AI対AIの運用で、人を常に最後へ置くだけでは十分ではありません。人へ届く時点で数百件の履歴が積み上がっていれば、確認者は承認疲れを起こします。早過ぎる移管は自動化の意味を薄くし、遅過ぎる移管は損失を拡大します。そこで、移管条件を取引開始前に決めます。

一つ目は往復上限です。同じ争点が三往復しても縮まらなければ、四回目の文章を生成させず、規約担当者へ戻します。二つ目は金額上限です。差額だけでなく、累積したAPI利用料と人の予想確認時間を足し、取引価値に対する比率で止めます。三つ目は不可逆性です。支払い、配送、医療上の承認、アカウント停止など、後から戻しにくい操作の直前で承認を要求します。

四つ目は根拠の衝突です。双方が同じ規約名を示しながら版番号が違う場合、AIに妥協案を作らせる前に正しい版を確定します。五つ目は当事者の不利益です。医療、雇用、融資、保険、公共サービスのように生活へ大きく影響する判断では、処理速度だけで人の異議申立てを省かない設計が必要です。

ここで人が行うのは、AIの文章を丸ごと読み直す仕事ではありません。争点カードに集約された差分を見て、規約の優先順位を決める、例外を承認する、追加証拠を指定する、取引を中止する仕事です。人の役割を「全部確認」から「衝突する目的の裁定」へ変えることで、AIの速度を生かしながら責任を残せます。

医療請求の教訓を日本へ移す際の注意

米国と日本では、医療保険制度、診療報酬、請求審査の仕組みが異なります。したがって、9億4200万ドルという推計を日本の医療費へそのまま当てはめることはできません。分析主体が保険者団体であること、観察された相関からAI単独の因果を断定できないことも明記して読む必要があります。

それでも、日本企業が学べる運用上の教訓はあります。AIが書類から項目を多く拾えるようになると、入力精度が上がる一方、拾った項目が最終判断へどう影響したかが見えにくくなります。請求、審査、監査の各部門が別々の自動化率を競うと、会社全体では照会と差し戻しが増える可能性があります。

日本の医療だけでなく、損害保険の事故査定、経費精算、補助金申請、与信、返品審査でも同じ点検が使えます。AIが発見した追加項目の件数ではなく、その項目で判定が変わった件数、追加証拠が必要になった件数、相手から異議が出た件数、最終的に人が覆した件数を分けます。発見能力と事業成果を同じ数字にしないことが大切です。

特に行政や生活基盤に関わる処理では、AI同士の機械可読なやり取りだけで完結させず、本人が理解できる理由と申立て先を残します。エージェントの身元を証明できても、影響を受ける人が決定理由へ到達できなければ、信頼できる運用とは言えません。

日本企業が30日で始める四段階

1週目：AIが向かい合う仕事を一つ見つける

まず、自社AIの相手側にも自動判定がある仕事を一つ選びます。発注、請求、広告、物流、問い合わせ、審査などが候補です。社内の二部門でも構いません。重要なのは、目的の異なる二つの自動化が同じ案件を受け渡す場所を選ぶことです。

案件を十件ほど抽出し、受付から完了までの往復回数、保留時間、人の確認時間、外部API費を測ります。平均だけでなく、最も往復した一件を残します。少数の例外が費用の大半を作る場合があるためです。

2週目：身元票と争点カードを分ける

相手の組織、エージェントID、証明書、権限、期限、承認者を身元票へ記録します。主張、根拠、差分、未解決点、次の期限は争点カードへ記録します。身元確認が通ったことを、主張内容が正しい証明として扱わないために、二枚へ分けます。

デジタル証明をまだ導入できない場合でも、APIクライアント、サービスアカウント、部署、責任者、権限上限を一覧にするところから始められます。共有アカウントのままでは、後から誰の委任で動いたかを分けられません。

3週目：自動停止を三つだけ設定する

最初から複雑なルールを作らず、同一争点の往復回数、累積処理費、不可逆操作の三つで止めます。停止時には、案件番号、双方の最終主張、根拠ID、未解決点、推奨される担当部署を一つの束にして渡します。

停止を失敗として隠さず、正常な完了経路の一つにします。人へ移した後に解決した理由を記録し、次回は規約修正で解消できるのか、今後も人が裁定すべき価値判断なのかを分けます。

4週目：自動化率ではなく完了収支を比較する

試験前後で、自動処理件数だけでなく、完了率、完了時間、往復回数、争点数、人の裁定時間、完了一件費、覆し率を比較します。AIの処理件数が増えても、争点と費用が増えたなら拡大を止めます。逆に、人への移管が少し増えても、早い段階で証拠がそろい、総時間と損失が減ったなら改善です。

30日で目指すのは、完全自律の商取引ではありません。AIが相手のAIとやり取りした後でも、会社が一件の経緯を説明し、止め、訂正し、完了できる状態です。

対話監査で見る七つの指標

1. 完了率：開始した案件のうち、合意、拒否、取消のいずれかで閉じた割合です。
2. 争点縮小率：最初の争点数に対して、各往復でどれだけ未解決点が減ったかを見ます。
3. 重複往復率：同じ根拠と主張が差分なしで再送された割合です。
4. 早期移管率：費用上限や不可逆操作の前に、人へ必要情報を渡せた割合です。
5. 完了一件費：モデル、API、外部照会、ログ、人の裁定を合計した費用です。
6. 覆し率：AI間の暫定合意または拒否を、人が変更した割合です。
7. 救済時間：影響を受けた人の申立てから、訂正または理由提示までの時間です。

七指標を一つの点数へまとめないことも重要です。完了率を上げるために異議申立てを却下すれば、救済時間や覆し率の意味が失われます。完了一件費を下げるために証拠を消せば、後から説明できません。指標間の緊張を残し、経営、現場、法務、セキュリティが同じ案件を別々の角度から見られるようにします。

出典

• Blue Cross Blue Shield Association：AIコーディングツールと医療費に関する分析
• TechCrunch：病院と保険者のAI利用が医療費へ与える影響
• キーマンズネット：GMOとVESS Labsによる企業間AIエージェントの信頼基盤実証
• 関連解説：AI導入を完了一件の費用と時間で測る

結論：速い返事より、閉じられる一件を設計する

AI同士が取引する未来では、相手が本物かを証明する仕組みが入口になります。しかし、正しい相手と正しい権限だけでは、正しい結論や安い運用までは保証されません。双方がそれぞれの目的を高速で追えば、争点の往復そのものが新しいコストになります。

日本企業が今決めるべきなのは、AIを何体導入するかだけではありません。同じ争点を何回まで往復させるのか、どの差額で人へ戻すのか、どの証拠を残すのか、誰が最終的に取引を閉じるのかです。自動化の件数ではなく、説明できる形で閉じた一件を数える必要があります。

あなたの会社でAIが次に話しかける相手は、人でしょうか、それとも別のAIでしょうか。もし後者なら、最初の自動交渉を始める前に、争点カードと停止条件を一枚だけ用意してみてください。その一枚が、速い応答を終わる仕事へ変える土台になります。