止める・数える・伝える——AIエージェントが間違えた日の“初動3ステップ”

請求書の下書きや問い合わせへの返信を、AIエージェントに任せる会社が増えています。
任せる仕事が増えれば、間違いをゼロにすることはできません。
それでも多くの会社には、「間違えた日に何をするか」の決まりがありません。

権限の設計や出力の検品といった事前の備えは、これまでの記事で扱ってきました。
本記事では、その備えをすり抜けた間違いが実際に起きた日のために、
「止める・数える・伝える」の初動3ステップを先に決めておく方法を解説します。

事故は「起きない」ではなく「小さく終わらせる」

米EY(アーンスト・アンド・ヤング)が2026年9月15日に公表した調査によると、
過去1年間にAI関連のリスクに遭遇した企業は89%にのぼりました。
実害のある重大なAIインシデントを経験した企業も36%あります。
対象は米国の大企業で、日本の中小企業にそのまま当てはまる数字ではありません。
それでも「事故は珍しいことではない」という前提は、規模を問わず共有できるはずです。

大切なのは、事故を恐れて導入をやめることではありません。
起きたときに小さく終わらせる段取りを、先に決めておくことです。
間違いを事前に捕まえる仕組みは、人の確認をどこに置くかを決める記事で解説しました。
本記事はその続きで、確認をすり抜けた後の話です。

ステップ1　止める——「止め方」を全員が知っているか

間違いに気づいたら、まずそのAIの動きを止めます。
自動送信や自動処理が動いたままでは、影響が増え続けるからです。
ここで落とし穴になるのが、「止め方を知っているのが1人だけ」という状態です。
担当者が休みの日に限って、事故は起きるものです。

対策は難しくありません。
「どの画面のどのボタンで止まるか」を1〜2行で書き、全員が見られる場所に置くだけです。
一時停止の機能がないツールなら、接続を切る、アカウントを止めるなど、
代わりの手順を決めておきます。
止めたあとの業務は、当面は人手に戻して構いません。

ステップ2　数える——影響の範囲をその日のうちに

止めたら、次は影響範囲の確認です。
「いつからいつまで」「何件」「誰に」「何が出たか」の4点を、
AIの実行ログや送信履歴から数えます。
ここを曖昧なまま次へ進むと、後の説明が二転三転し、かえって信用を失います。

数えた結果、顧客や取引先の個人情報が外に出ていた場合は、法律上の手続きも確認します。
個人情報保護法では、次のような漏えい等が起きたとき、
個人情報保護委員会への報告が義務になっています。

• 病歴などの要配慮個人情報を含む場合
• クレジットカード番号など、財産的被害が生じるおそれがある場合
• 不正アクセスなど、不正の目的によるおそれがある場合
• 対象となる本人の数が1,000人を超える場合

報告の期限は、発覚からおおむね3〜5日以内の「速報」と、30日以内の「確報」です。
不正の目的によるおそれがある場合、確報の期限は60日以内になります。
本人への通知も原則必要です。
該当しそうなときは自社だけで判断せず、
個人情報保護委員会のサイトの確認や専門家への相談を急いでください。

ステップ3　伝えて、直す——謝罪は「人の名前」で

影響範囲が数えられたら、その日のうちに相手へ伝えます。
順番が謝罪より先に「数える」なのは、事実がそろわない説明は訂正の訂正を生むからです。
伝えるのは「何が起きたか」「どこまで影響したか」「今どうしているか」の3点で十分です。

このとき、文面の主語をAIにしないことが大切です。
「AIの誤作動でした」という説明は、相手には言い訳に聞こえます。
任せると決めたのは会社なので、謝罪は担当者や責任者の名前で行います。

再発防止は、「事実・原因・手当て・再開の条件」の4項目を1枚に書きます。
手当ては、指示文の修正、権限の縮小、確認の追加など、直す場所を具体的に決めます。
直したあとの再開は、件数を絞った“試用期間”からやり直すのが安全です。
絞り方は権限設計と“試用期間”の記事で詳しく解説しています。

平時の備えは3つだけ——ひな形・連絡先・隠さない空気

初動の質は、事故当日の頑張りではなく、平時の準備で決まります。
1つ目の備えは、お詫びと訂正の文面のひな形を先に作っておくことです。
空欄を埋めるだけの状態にしておけば、動転していても文面の品質が保てます。

2つ目は、連絡先の一覧です。
ツールの提供元の窓口、社内の責任者、相談できる専門家を1枚にまとめます。
事故の日に検索から始めるのと、1枚を見て動くのとでは、初動が半日変わります。

3つ目は、報告した人を責めない空気です。
第一発見者が叱られる職場では、次の間違いは報告されず、発見が遅れます。
最初に気づいて知らせた人こそ、会社を守った人として扱ってください。

まとめ

AIエージェントの間違いは、確率を下げることはできても、ゼロにはできません。
差がつくのは、間違えた日の初動です。
止める・数える・伝えるの3ステップと、期限のある法律上の手続きを、
1枚にまとめておきましょう。

事故対応が決まっている会社は、安心して任せる範囲を広げられます。
「起きたらどうするか」を決めることは、AI活用のブレーキではなく、
アクセルを踏むための準備です。