ipa-ai-cyber-risk-genai-security-20260604

---

title: "IPA「AIの利用をめぐるサイバーリスク」初選出から考える生成AIセキュリティ" description: "IPA情報セキュリティ10大脅威2026で組織向け3位に入ったAI利用をめぐるサイバーリスクを、生成AIの機密入力、シャドーAI、AIサービス管理、LLM権限設計に落とし込む。" lead_summary: "IPAの情報セキュリティ10大脅威2026では、組織向け脅威として「AIの利用をめぐるサイバーリスク」が3位に入った。この記事では順位紹介ではなく、中小・中堅企業が生成AIを業務利用する前に整えるべきセキュリティ対策を整理する。" date: "2026-06-03" updatedAt: "2026-06-05" category: "セキュリティ" tags: ["IPA", "AIリスク", "シャドーAI", "LLMセキュリティ", "生成AIセキュリティ", "情報セキュリティ10大脅威"] author: "GXO株式会社"

IPAの「情報セキュリティ10大脅威 2026」では、組織向け脅威の3位に「AIの利用をめぐるサイバーリスク」が入った。生成AIの業務利用が広がるなか、AIを使う側の情報漏えい、AIを悪用する攻撃、AIシステムそのものへの攻撃が現実のリスクになっている。

既存記事では、IPA 10大脅威全体の優先順位を扱っている。本記事はそこから分岐し、生成AIセキュリティに絞る。社内でChatGPT、Claude、Copilot、AI議事録、AI検索、AIエージェントを使い始めている会社向けの記事である。

生成AIのルール作りは生成AIの社内導入ガバナンス、技術的な診断はLLMセキュリティ readiness 診断につなげる。

結論：生成AIセキュリティは「入力」「接続」「出力」「ログ」で見る

生成AIのセキュリティ対策は、次の4つに分けると整理しやすい。

観点	確認すること
入力	個人情報、機密情報、営業秘密を入れていないか
接続	Slack、Google Drive、Microsoft 365、CRMなどに接続してよいか
出力	誤情報、権利侵害、過剰な断定を人間が確認しているか
ログ	誰が何を使い、何を出力したか追えるか

AIサービスを導入するだけでは、セキュリティ対策にならない。むしろ、社内データに接続するほど、権限とログの設計が重要になる。

中小企業で起きやすい生成AIリスク

1. シャドーAI

会社が認めていないAIサービスを、社員が個人判断で使う状態である。禁止しても現場の業務が楽になるなら使われる。承認済みAIと禁止事項を示す必要がある。

2. 機密情報の入力

顧客名、契約内容、見積、ソースコード、社内会議録をAIに入力してしまうケースである。入力禁止情報を定義しない限り、現場は判断できない。

3. SaaS連携の過剰権限

AIがGoogle DriveやMicrosoft 365、Slack、CRMを横断検索できるようになると、便利な反面、閲覧権限の穴がそのままAI経由で露出する。

4. AI生成物の未確認利用

AIが作った回答、契約文、提案書、コードをそのまま使うと、誤情報や権利侵害、脆弱性を持ち込む可能性がある。

生成AIセキュリティのチェックリスト

#	チェック項目	対策
1	利用しているAIサービスを把握している	部門別に棚卸しする
2	入力禁止情報を定義している	個人情報、秘密情報、認証情報を明記する
3	承認済みAIを決めている	使ってよいサービスを示す
4	SaaS連携の権限を確認している	共有ドライブやCRM権限を見直す
5	出力レビューを決めている	外部向け文書は人間確認を必須にする
6	ログを残している	利用者、入力、出力、参照元を追えるようにする
7	インシデント時の停止手順がある	管理者が利用停止できるようにする
8	教育している	禁止例とOK例を定期共有する

このチェックを飛ばしてAIエージェントを導入すると、操作権限までAIに渡してしまう危険がある。AIエージェント導入前にはAIエージェント本番 readiness 診断も確認したい。

まず整えるべき社内ルール

最初から完璧な規程を作る必要はない。まずは1枚でよいので、次の項目を明文化する。

• 使ってよいAIサービス

• 入力してはいけない情報

• 顧客向け・社外向けに出す前の確認者

• AI生成物をそのまま使ってはいけない業務

• 問題が起きたときの連絡先

• 新しいAIサービスを使いたいときの申請先

ルールは、禁止だけでなくOK例も必要である。「社内規程の要約は可」「顧客名を伏せた文章の下書きは可」「契約文の最終判断は不可」のように、現場が判断できる粒度にする。

よくある質問

Q1. 無料版の生成AIを禁止すれば十分ですか

十分ではない。無料版の禁止に加え、承認済みサービス、入力禁止情報、ログ、出力確認、SaaS連携権限を決める必要がある。

Q2. AI議事録ツールも対象ですか

対象である。会議には顧客情報、契約情報、人事情報、未公開情報が含まれることがある。録音データ、文字起こし、要約の保管先と学習利用の有無を確認する。

Q3. セキュリティ部門がない会社はどうすべきですか

まず管理部門・情シス・経営者で最低限の利用ルールを作り、承認済みサービスを絞る。難しい場合は外部のセキュリティ顧問を使うのが現実的である。

参考情報

• IPA「情報セキュリティ10大脅威 2026」：https://www.ipa.go.jp/security/10threats/10threats2026.html

• IPA「AI利用者のための脅威と対策」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html

  生成AIのセキュリティルール、現場で使える形にしませんか

GXOでは、AIサービス棚卸し、入力禁止情報、SaaS連携権限、ログ、教育資料まで含めて、生成AIセキュリティを実務に落とし込みます。

生成AIセキュリティを相談する

※ 既にChatGPTやClaudeを利用中の状態からでも整理できます。