この記事は、情報システム部門・コンプライアンス担当・セキュリティ担当が、生成AI利用の社内インシデント対応を整備するために使える演習シナリオを提供します。
生成AIの業務利用が進むにつれ、インシデントの類型も既存のマルウェア感染・不正アクセスとは異なる形が増えています。2026年3月に改定されたAI事業者ガイドラインver.1.2では、「AIエージェント」と「フィジカルAI」のリスクが新たに追加されましたが、多くの企業ではまだ生成AI固有のインシデント対応手順が整備されていません。
机上演習（Tabletop Exercise）は、実際のシステム操作なしにシナリオに沿って役割ごとの判断と行動を確認する訓練手法です。所要時間は1シナリオあたり60〜90分で、ITスキルがない参加者でも実施できます。
演習シナリオ一覧
横にスクロールして確認できます
| シナリオ番号 | タイトル | 想定インシデント類型 | 主な参加者 | 演習で確認する判断ポイント |
|---|---|---|---|---|
| S1 | 顧客情報をAIに入力した社員が発生、漏えい範囲が不明 | 情報漏えい疑い | 情シス・コンプライアンス・経営・業務部門 | 初動報告・範囲確認・サービス停止判断・個情委通知要否 |
| S2 | AIが生成した回答に誤情報が含まれ顧客へ送付された | 誤回答の外部拡散 | カスタマーサポート・法務・広報・業務部門 | 対象顧客の特定・訂正連絡の範囲・対外説明の文面 |
| S3 | AIエージェントが自律的にAPI呼び出しを繰り返しコストが月額予算の50倍に膨張 | コスト暴走・運用事故 | 情シス・財務・DX推進・エンジニア | 停止判断・費用負担・再発防止設計 |
AI ASSESSMENT
PoC の前に「そもそも使えるか」を30分で見極めませんか？
対象業務、データ、権限、ログ、運用責任を確認し、PoC前に失敗要因と本番化条件を整理します。
シナリオS1：顧客情報をAIに入力した漏えい疑い
状況：営業部門の社員Aが、顧客との商談メモ（顧客名・電話番号・商談金額を含む）をそのまま商用SaaS型生成AIのチャット欄に貼り付けて要約作業を行っていた。情シスが操作ログを確認したところ、当該AIサービスがデフォルトで入力データを改善目的に使用する設定になっていることが判明した。
演習のフロー
横にスクロールして確認できます
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| 発見（0分） | 操作ログの確認依頼が来た | 情シス担当 | 入力内容に個人情報が含まれるか・件数は何件か |
| 報告（30分） | 上長・コンプライアンス・経営へ報告 | 情シス責任者 | 報告先と連絡手順が明文化されているか |
| 判断（60分） | 当該サービスの利用を一時停止するか | CIO・経営 | 停止権限は誰が持つか・停止の基準は何か |
| 確認（翌日） | ベンダーへ学習利用の有無を照会 | 法務・情シス | 契約書・プライバシーポリシーでどう定めているか |
| 通知判断（3日後） | 個人情報保護委員会への通知要否 | 法務・経営 | 通知義務の要件（漏えいの「おそれ」）を満たすか |
整備しておくべき対応手順：入力禁止情報リスト・ベンダー契約での学習利用オプトアウト設定・個情委通知フロー。
シナリオS2：誤回答が顧客に送付された
状況：カスタマーサポート担当がAI生成の回答案を確認せずに顧客メールに貼り付けて送付した。回答に含まれていた返品期限（実際は30日）が「14日以内」と誤って生成されており、顧客から苦情が入った。同様のメール送付が過去2週間で30件確認された。
演習のフロー
横にスクロールして確認できます
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| 苦情受付（0分） | 誤情報が含まれる可能性に気づく | CS担当 | 他の送付メールにも同じ誤情報が含まれるか |
| 全件調査（2時間） | AI生成経由の送付メールを全件抽出 | CS責任者・情シス | ログから対象メールを特定できるか |
| 顧客対応（当日中） | 該当顧客への訂正連絡 | CS責任者・法務 | 訂正文面の責任者承認プロセスは機能しているか |
| 再発防止（翌日） | AI出力の確認必須化と手順改訂 | CS責任者・DX担当 | 出力レビュー基準を明文化できるか |
| 報告（3日後） | 経営・コンプライアンスへの報告 | 部門長 | エスカレーション基準（件数・金額）は定めているか |
整備しておくべき対応手順：AI生成出力の確認義務・顧客向け訂正メールのひな形・ログからAI経由メールを特定する手順。
FREE DOWNLOAD
AI導入チェックリスト（PoC 失敗要因 10項目）
情シス部門が PoC 前に押さえるべき失敗要因を10項目に整理した無料チェックリスト。
シナリオS3：AIエージェントのコスト暴走
状況：DX推進部門が試験的に導入したAIエージェントが、外部APIを自律的に繰り返し呼び出すループに入り、1日でAPI利用料が月次予算相当額に到達した。財務から「クラウド費用の異常検知アラート」を受けるまで4時間気づかなかった。
演習のフロー
横にスクロールして確認できます
| フェーズ | 判断・行動 | 担当者 | 確認すること |
|---|---|---|---|
| アラート受信（0分） | クラウドコストの異常通知が届く | 財務・情シス | アラートの設定者は誰か・通知先が適切か |
| 一時停止（15分以内） | エージェントの実行を停止する | エンジニア・情シス | 停止手順と権限は文書化されているか |
| 原因調査（1時間） | ループの発生箇所と呼び出し回数を確認 | エンジニア | ログに実行履歴が残っているか |
| 費用の確定（当日） | 実際の追加費用額を確定する | 財務・DX推進 | 費用の上限設定と超過通知は存在するか |
| 再発防止（翌週） | 最大実行回数・費用上限・承認フローを設計 | エンジニア・情シス・DX推進 | AIエージェントの承認プロセスが定義されているか |
整備しておくべき対応手順：APIコスト上限の設定・エージェント停止の権限と手順・新しいエージェント導入時の承認フロー。
演習後に整備する4つの仕組み
机上演習で「判断できなかった」「手順がなかった」箇所が、整備すべき優先事項です。
1. 初動連絡フロー（誰に・いつ・何を報告するか）：AI利用インシデントに特化した報告先と連絡時間の基準を1枚のフロー図にします。既存のセキュリティインシデント報告フローに「AI固有の判断項目」を追記する形でも機能します。
2. サービス停止の権限と基準：「誰がどんな状況で停止を決定できるか」を先に決めておかないと、確認待ちで被害が拡大します。停止権限者（平日日中・夜間・休日）と停止トリガーの条件を文書化します。
3. ログの取り方と保存場所：演習で「ログがない」「誰が入力したか追えない」問題が出た場合、操作ログの設計を改めます。AI経由のデータアクセス・送付メール・エージェントの実行履歴を一元管理できる形にします。
4. 対外説明の文面ひな形：顧客・取引先への訂正連絡や、個情委通知の文書を毎回ゼロから作るとミスが増えます。シナリオS1・S2に対応したひな形を事前に準備します。
インシデント対応の基盤設計はAI固有のケースに限らず、セキュリティ全体のフローを整備する起点になります。また、AIエージェント導入の事前チェックではエージェントの承認フロー設計を詳しく扱っています。
GXOはどう支援するか
GXOでは、この記事の3シナリオを自社の業務・AIツール・組織体制に合わせてカスタマイズした机上演習の設計・ファシリテーション支援を行っています。演習後には「整備が必要な手順リスト」を整理し、連絡フロー・停止基準・ログ設計・対外説明ひな形の作成まで一括でサポートします。インシデント対応が未整備のまま生成AI利用が拡大している状況を、演習1回をきっかけに動かすことができます。
GXOの見解
セキュリティニュースは読むだけでは価値がなく、自社資産、影響判定、対応期限、経営報告に変換して初めて防御力になる。
GXOは単発診断よりも、月次の棚卸し、優先順位付け、証跡管理、改善実行までを運用化すべきだと見る。
GXOは、脆弱性診断、インシデント対応、月次運用、開発保守の改善まで接続できる形で支援します。
実務判断のポイント
この記事を読むべきなのは、経営者、CIO、情シス、セキュリティ担当、開発責任者です。単に情報を把握するだけでなく、脆弱性管理、外部公開資産棚卸し、月次セキュリティ運用、インシデント対応の相談に進めるべきかを判断するための材料として整理する必要があります。
GXOが重視するのは、話題性の高さよりも「自社の業務、データ、権限、予算、運用責任にどう影響するか」です。AI利用インシデント机上演習シナリオ3本｜漏えい疑い・誤回答拡散・エージェント暴走コストに関する検討では、担当者だけで判断を閉じず、経営、現場、情シス、外部パートナーの役割を早い段階で分けることが重要です。
放置した場合と整備した場合の違い
横にスクロールして確認できます
| 観点 | 放置した場合 | 整備した場合 |
|---|---|---|
| 業務影響 | 属人的な判断が増え、対応の優先順位がぶれやすい | 影響範囲、期限、責任者を決めて進められる |
| 投資判断 | ツール導入や外注費だけが先行し、効果測定が曖昧になる | 売上、工数削減、リスク低減の指標にひも付けられる |
| 現場運用 | 例外処理や承認フローが残り、定着しにくい | 権限、ログ、教育、改善サイクルまで設計できる |
| 経営報告 | 問題が発生してから説明資料を作ることになる | 月次で状況、課題、次の打ち手を説明できる |
導入・改善前のチェックリスト
- 対象業務、対象部門、対象データを明文化しているか
- 現在の課題を、売上機会、原価、工数、リスクのいずれかに分解しているか
- 既存システム、SaaS、Excel、手作業の依存関係を棚卸ししているか
- 例外処理、承認、差し戻し、監査証跡まで確認しているか
- 社内で判断できる範囲と外部支援が必要な範囲を分けているか
- 初期費用だけでなく、保守、運用、教育、改善費用を見積もっているか
- 成功指標を、問い合わせ数、商談数、削減時間、停止リスクなどで定義しているか
- 実装後の責任者、更新頻度、レビュー会議の持ち方を決めているか
- セキュリティ、法務、個人情報、契約条件の確認ポイントを洗い出しているか
- 既存の問い合わせ、商談、障害、運用ログから優先順位を決めているか
- 経営判断に必要な資料を1枚で説明できる状態にしているか
- 次の90日で検証する範囲と、やらない範囲を明確にしているか
GXOの実務補足
セキュリティニュースは読むだけでは価値がなく、自社資産、影響判定、対応期限、経営報告に変換して初めて防御力になる。
GXOは単発診断よりも、月次の棚卸し、優先順位付け、証跡管理、改善実行までを運用化すべきだと見る。
GXOは、脆弱性診断、インシデント対応、月次運用、開発保守の改善まで接続できる形で支援します。記事のテーマを単なる情報収集で終わらせず、相談、診断、要件定義、実装、運用改善に接続することで、診断、監査、保守契約、月次レポート、緊急対応支援へ接続。さらに、チェックリスト型診断を入口に、継続監視・改善支援へ展開。
相談につながる進め方
- 現在の業務、データ、ツール、担当者を棚卸しする
- 売上拡大、工数削減、リスク低減のどれに効くテーマかを決める
- 初期対応、90日以内の改善、半年以上の投資を分ける
- 必要な社内体制、外部支援、予算、セキュリティ確認を整理する
- 小さく検証し、効果測定後に本番化や横展開を判断する
よくある質問
Q1. 机上演習はどれくらいの頻度で実施すべきですか
最低でも年1回、AIツールや利用範囲に大きな変更があった際に追加実施することを推奨します。最初の1回は既存インシデント対応フローとのギャップを見つけることが主目的で、2回目以降は前回から整備した手順の確認に使います。
Q2. 参加者は何人が適切ですか
シナリオ1本あたり5〜10名が進行しやすいです。情シス・業務部門・法務・経営の代表者が少なくとも1名ずつ参加することで、部門をまたいだ判断の難しさが演習中に可視化されます。
Q3. 演習の記録はどのように残しますか
各シナリオの判断ポイントごとに「誰が何を決定したか・何が不明だったか」をメモし、演習後に「整備すべき事項リスト」として文書化します。この記録が次の演習の評価基準になり、インシデント対応計画の改訂根拠になります。
参考情報
- AI事業者ガイドライン第1.2版（総務省・経産省、2026年3月31日。AIエージェント・フィジカルAIに関する記載を追加）：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
- IPA「AI利用者のためのセキュリティ豆知識」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
- 国立情報学研究所「企業における生成AI利活用ガイドライン」（2026年2月）：https://www.nii.ac.jp/event/upload/20260220-murai.pdf（参考資料）
AI利用インシデントの机上演習と対応手順の整備を支援します
GXOでは、自社のAI利用状況に合わせた演習シナリオのカスタマイズ・ファシリテーション・演習後の手順整備まで一括でサポートします。漏えい疑い・誤回答・コスト暴走への対応が未整備の段階で、まず机上演習から始められます。
