IPAの「情報セキュリティ10大脅威 2026」では、組織向け脅威の3位に「AIの利用をめぐるサイバーリスク」が入った。生成AIの業務利用が広がるなか、AIを使う側の情報漏えい、AIを悪用する攻撃、AIシステムそのものへの攻撃が現実のリスクになっている。
既存記事では、IPA 10大脅威全体の優先順位を扱っている。本記事はそこから分岐し、生成AIセキュリティに絞る。社内でChatGPT、Claude、Copilot、AI議事録、AI検索、AIエージェントを使い始めている会社向けの記事である。
生成AIのルール作りは生成AIの社内導入ガバナンス、技術的な診断はLLMセキュリティ readiness 診断につなげる。
結論：生成AIセキュリティは「入力」「接続」「出力」「ログ」で見る
生成AIのセキュリティ対策は、次の4つに分けると整理しやすい。
横にスクロールして確認できます
| 観点 | 確認すること |
|---|---|
| 入力 | 個人情報、機密情報、営業秘密を入れていないか |
| 接続 | Slack、Google Drive、Microsoft 365、CRMなどに接続してよいか |
| 出力 | 誤情報、権利侵害、過剰な断定を人間が確認しているか |
| ログ | 誰が何を使い、何を出力したか追えるか |
AIサービスを導入するだけでは、セキュリティ対策にならない。むしろ、社内データに接続するほど、権限とログの設計が重要になる。
AI ASSESSMENT
PoC の前に「そもそも使えるか」を30分で見極めませんか？
対象業務、データ、権限、ログ、運用責任を確認し、PoC前に失敗要因と本番化条件を整理します。
中小企業で起きやすい生成AIリスク
1. シャドーAI
会社が認めていないAIサービスを、社員が個人判断で使う状態である。禁止しても現場の業務が楽になるなら使われる。承認済みAIと禁止事項を示す必要がある。
2. 機密情報の入力
顧客名、契約内容、見積、ソースコード、社内会議録をAIに入力してしまうケースである。入力禁止情報を定義しない限り、現場は判断できない。
3. SaaS連携の過剰権限
AIがGoogle DriveやMicrosoft 365、Slack、CRMを横断検索できるようになると、便利な反面、閲覧権限の穴がそのままAI経由で露出する。
4. AI生成物の未確認利用
AIが作った回答、契約文、提案書、コードをそのまま使うと、誤情報や権利侵害、脆弱性を持ち込む可能性がある。
生成AIセキュリティのチェックリスト
横にスクロールして確認できます
| # | チェック項目 | 対策 |
|---|---|---|
| 1 | 利用しているAIサービスを把握している | 部門別に棚卸しする |
| 2 | 入力禁止情報を定義している | 個人情報、秘密情報、認証情報を明記する |
| 3 | 承認済みAIを決めている | 使ってよいサービスを示す |
| 4 | SaaS連携の権限を確認している | 共有ドライブやCRM権限を見直す |
| 5 | 出力レビューを決めている | 外部向け文書は人間確認を必須にする |
| 6 | ログを残している | 利用者、入力、出力、参照元を追えるようにする |
| 7 | インシデント時の停止手順がある | 管理者が利用停止できるようにする |
| 8 | 教育している | 禁止例とOK例を定期共有する |
このチェックを飛ばしてAIエージェントを導入すると、操作権限までAIに渡してしまう危険がある。AIエージェント導入前にはAIエージェント本番 readiness 診断も確認したい。
FREE DOWNLOAD
AI導入チェックリスト（PoC 失敗要因 10項目）
情シス部門が PoC 前に押さえるべき失敗要因を10項目に整理した無料チェックリスト。
まず整えるべき社内ルール
最初から完璧な規程を作る必要はない。まずは1枚でよいので、次の項目を明文化する。
-
使ってよいAIサービス
-
入力してはいけない情報
-
顧客向け・社外向けに出す前の確認者
-
AI生成物をそのまま使ってはいけない業務
-
問題が起きたときの連絡先
-
新しいAIサービスを使いたいときの申請先
ルールは、禁止だけでなくOK例も必要である。「社内規程の要約は可」「顧客名を伏せた文章の下書きは可」「契約文の最終判断は不可」のように、現場が判断できる粒度にする。
よくある質問
Q1. 無料版の生成AIを禁止すれば十分ですか
十分ではない。無料版の禁止に加え、承認済みサービス、入力禁止情報、ログ、出力確認、SaaS連携権限を決める必要がある。
Q2. AI議事録ツールも対象ですか
対象である。会議には顧客情報、契約情報、人事情報、未公開情報が含まれることがある。録音データ、文字起こし、要約の保管先と学習利用の有無を確認する。
Q3. セキュリティ部門がない会社はどうすべきですか
まず管理部門・情シス・経営者で最低限の利用ルールを作り、承認済みサービスを絞る。難しい場合は外部のセキュリティ顧問を使うのが現実的である。
参考情報
-
IPA「情報セキュリティ10大脅威 2026」：https://www.ipa.go.jp/security/10threats/10threats2026.html
-
IPA「AI利用者のための脅威と対策」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html
生成AIのセキュリティルール、現場で使える形にしませんか
GXOでは、AIサービス棚卸し、入力禁止情報、SaaS連携権限、ログ、教育資料まで含めて、生成AIセキュリティを実務に落とし込みます。
※ 既にChatGPTやClaudeを利用中の状態からでも整理できます。
