この記事は、情報システム部門・コンプライアンス担当・セキュリティ担当が、生成AI利用の社内インシデント対応を整備するために使える演習シナリオを提供します。
生成AIの業務利用が進むにつれ、インシデントの類型も既存のマルウェア感染・不正アクセスとは異なる形が増えています。2026年3月に改定されたAI事業者ガイドラインver.1.2では、「AIエージェント」と「フィジカルAI」のリスクが新たに追加されましたが、多くの企業ではまだ生成AI固有のインシデント対応手順が整備されていません。
机上演習（Tabletop Exercise）は、実際のシステム操作なしにシナリオに沿って役割ごとの判断と行動を確認する訓練手法です。所要時間は1シナリオあたり60〜90分で、ITスキルがない参加者でも実施できます。
演習シナリオ一覧
| シナリオ番号 | タイトル | 想定インシデント類型 | 主な参加者 | 演習で確認する判断ポイント |
|---|---|---|---|---|
| S1 | 顧客情報をAIに入力した社員が発生、漏えい範囲が不明 | 情報漏えい疑い | 情シス・コンプライアンス・経営・業務部門 | 初動報告・範囲確認・サービス停止判断・個情委通知要否 |
| S2 | AIが生成した回答に誤情報が含まれ顧客へ送付された | 誤回答の外部拡散 | カスタマーサポート・法務・広報・業務部門 | 対象顧客の特定・訂正連絡の範囲・対外説明の文面 |
| S3 | AIエージェントが自律的にAPI呼び出しを繰り返しコストが月額予算の50倍に膨張 | コスト暴走・運用事故 | 情シス・財務・DX推進・エンジニア | 停止判断・費用負担・再発防止設計 |
AI ASSESSMENT
PoC の前に「そもそも使えるか」を30分で見極めませんか？
情シス部門の稟議書作成をサポートする無料の30分壁打ち。ROI 試算シート・失敗要因チェックリストをその場で共有します。
シナリオS1：顧客情報をAIに入力した漏えい疑い
状況：営業部門の社員Aが、顧客との商談メモ（顧客名・電話番号・商談金額を含む）をそのまま商用SaaS型生成AIのチャット欄に貼り付けて要約作業を行っていた。情シスが操作ログを確認したところ、当該AIサービスがデフォルトで入力データを改善目的に使用する設定になっていることが判明した。
演習のフロー
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| 発見（0分） | 操作ログの確認依頼が来た | 情シス担当 | 入力内容に個人情報が含まれるか・件数は何件か |
| 報告（30分） | 上長・コンプライアンス・経営へ報告 | 情シス責任者 | 報告先と連絡手順が明文化されているか |
| 判断（60分） | 当該サービスの利用を一時停止するか | CIO・経営 | 停止権限は誰が持つか・停止の基準は何か |
| 確認（翌日） | ベンダーへ学習利用の有無を照会 | 法務・情シス | 契約書・プライバシーポリシーでどう定めているか |
| 通知判断（3日後） | 個人情報保護委員会への通知要否 | 法務・経営 | 通知義務の要件（漏えいの「おそれ」）を満たすか |
整備しておくべき対応手順：入力禁止情報リスト・ベンダー契約での学習利用オプトアウト設定・個情委通知フロー。
シナリオS2：誤回答が顧客に送付された
状況：カスタマーサポート担当がAI生成の回答案を確認せずに顧客メールに貼り付けて送付した。回答に含まれていた返品期限（実際は30日）が「14日以内」と誤って生成されており、顧客から苦情が入った。同様のメール送付が過去2週間で30件確認された。
演習のフロー
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| 苦情受付（0分） | 誤情報が含まれる可能性に気づく | CS担当 | 他の送付メールにも同じ誤情報が含まれるか |
| 全件調査（2時間） | AI生成経由の送付メールを全件抽出 | CS責任者・情シス | ログから対象メールを特定できるか |
| 顧客対応（当日中） | 該当顧客への訂正連絡 | CS責任者・法務 | 訂正文面の責任者承認プロセスは機能しているか |
| 再発防止（翌日） | AI出力の確認必須化と手順改訂 | CS責任者・DX担当 | 出力レビュー基準を明文化できるか |
| 報告（3日後） | 経営・コンプライアンスへの報告 | 部門長 | エスカレーション基準（件数・金額）は定めているか |
整備しておくべき対応手順：AI生成出力の確認義務・顧客向け訂正メールのひな形・ログからAI経由メールを特定する手順。
FREE DOWNLOAD
AI導入チェックリスト（PoC 失敗要因 10項目）
情シス部門が PoC 前に押さえるべき失敗要因を10項目に整理した無料チェックリスト。
シナリオS3：AIエージェントのコスト暴走
状況：DX推進部門が試験的に導入したAIエージェントが、外部APIを自律的に繰り返し呼び出すループに入り、1日でAPI利用料が月次予算相当額に到達した。財務から「クラウド費用の異常検知アラート」を受けるまで4時間気づかなかった。
演習のフロー
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| アラート受信（0分） | クラウドコストの異常通知が届く | 財務・情シス | アラートの設定者は誰か・通知先が適切か |
| 一時停止（15分以内） | エージェントの実行を停止する | エンジニア・情シス | 停止手順と権限は文書化されているか |
| 原因調査（1時間） | ループの発生箇所と呼び出し回数を確認 | エンジニア | ログに実行履歴が残っているか |
| 費用の確定（当日） | 実際の追加費用額を確定する | 財務・DX推進 | 費用の上限設定と超過通知は存在するか |
| 再発防止（翌週） | 最大実行回数・費用上限・承認フローを設計 | エンジニア・情シス・DX推進 | AIエージェントの承認プロセスが定義されているか |
整備しておくべき対応手順：APIコスト上限の設定・エージェント停止の権限と手順・新しいエージェント導入時の承認フロー。
演習後に整備する4つの仕組み
机上演習で「判断できなかった」「手順がなかった」箇所が、整備すべき優先事項です。
1. 初動連絡フロー（誰に・いつ・何を報告するか）：AI利用インシデントに特化した報告先と連絡時間の基準を1枚のフロー図にします。既存のセキュリティインシデント報告フローに「AI固有の判断項目」を追記する形でも機能します。
2. サービス停止の権限と基準：「誰がどんな状況で停止を決定できるか」を先に決めておかないと、確認待ちで被害が拡大します。停止権限者（平日日中・夜間・休日）と停止トリガーの条件を文書化します。
3. ログの取り方と保存場所：演習で「ログがない」「誰が入力したか追えない」問題が出た場合、操作ログの設計を改めます。AI経由のデータアクセス・送付メール・エージェントの実行履歴を一元管理できる形にします。
4. 対外説明の文面ひな形：顧客・取引先への訂正連絡や、個情委通知の文書を毎回ゼロから作るとミスが増えます。シナリオS1・S2に対応したひな形を事前に準備します。
インシデント対応の基盤設計はAI固有のケースに限らず、セキュリティ全体のフローを整備する起点になります。また、AIエージェント導入の事前チェックではエージェントの承認フロー設計を詳しく扱っています。
GXOはどう支援するか
GXOでは、この記事の3シナリオを自社の業務・AIツール・組織体制に合わせてカスタマイズした机上演習の設計・ファシリテーション支援を行っています。演習後には「整備が必要な手順リスト」を整理し、連絡フロー・停止基準・ログ設計・対外説明ひな形の作成まで一括でサポートします。インシデント対応が未整備のまま生成AI利用が拡大している状況を、演習1回をきっかけに動かすことができます。
よくある質問
Q1. 机上演習はどれくらいの頻度で実施すべきですか
最低でも年1回、AIツールや利用範囲に大きな変更があった際に追加実施することを推奨します。最初の1回は既存インシデント対応フローとのギャップを見つけることが主目的で、2回目以降は前回から整備した手順の確認に使います。
Q2. 参加者は何人が適切ですか
シナリオ1本あたり5〜10名が進行しやすいです。情シス・業務部門・法務・経営の代表者が少なくとも1名ずつ参加することで、部門をまたいだ判断の難しさが演習中に可視化されます。
Q3. 演習の記録はどのように残しますか
各シナリオの判断ポイントごとに「誰が何を決定したか・何が不明だったか」をメモし、演習後に「整備すべき事項リスト」として文書化します。この記録が次の演習の評価基準になり、インシデント対応計画の改訂根拠になります。
参考情報
- AI事業者ガイドライン第1.2版（総務省・経産省、2026年3月31日。AIエージェント・フィジカルAIに関する記載を追加）：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
- IPA「AI利用者のためのセキュリティ豆知識」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
- 国立情報学研究所「企業における生成AI利活用ガイドライン」（2026年2月）：https://www.nii.ac.jp/event/upload/20260220-murai.pdf（参考資料）
AI利用インシデントの机上演習と対応手順の整備を支援します
GXOでは、自社のAI利用状況に合わせた演習シナリオのカスタマイズ・ファシリテーション・演習後の手順整備まで一括でサポートします。漏えい疑い・誤回答・コスト暴走への対応が未整備の段階で、まず机上演習から始められます。