IPA「AIの利用をめぐるサイバーリスク」初選出から考える生成AIセキュリティ

IPAの「情報セキュリティ10大脅威 2026」では、組織向け脅威の3位に「AIの利用をめぐるサイバーリスク」が入った。生成AIの業務利用が広がるなか、AIを使う側の情報漏えい、AIを悪用する攻撃、AIシステムそのものへの攻撃が現実のリスクになっている。

既存記事では、IPA 10大脅威全体の優先順位を扱っている。本記事はそこから分岐し、生成AIセキュリティに絞る。社内でChatGPT、Claude、Copilot、AI議事録、AI検索、AIエージェントを使い始めている会社向けの記事である。

生成AIのルール作りは生成AIの社内導入ガバナンス、技術的な診断はLLMセキュリティ readiness 診断につなげる。

結論：生成AIセキュリティは「入力」「接続」「出力」「ログ」で見る

生成AIのセキュリティ対策は、次の4つに分けると整理しやすい。

AIサービスを導入するだけでは、セキュリティ対策にならない。むしろ、社内データに接続するほど、権限とログの設計が重要になる。

中小企業で起きやすい生成AIリスク

1. シャドーAI

会社が認めていないAIサービスを、社員が個人判断で使う状態である。禁止しても現場の業務が楽になるなら使われる。承認済みAIと禁止事項を示す必要がある。

2. 機密情報の入力

顧客名、契約内容、見積、ソースコード、社内会議録をAIに入力してしまうケースである。入力禁止情報を定義しない限り、現場は判断できない。

3. SaaS連携の過剰権限

AIがGoogle DriveやMicrosoft 365、Slack、CRMを横断検索できるようになると、便利な反面、閲覧権限の穴がそのままAI経由で露出する。

4. AI生成物の未確認利用

AIが作った回答、契約文、提案書、コードをそのまま使うと、誤情報や権利侵害、脆弱性を持ち込む可能性がある。

生成AIセキュリティのチェックリスト

このチェックを飛ばしてAIエージェントを導入すると、操作権限までAIに渡してしまう危険がある。AIエージェント導入前にはAIエージェント本番 readiness 診断も確認したい。

まず整えるべき社内ルール

最初から完璧な規程を作る必要はない。まずは1枚でよいので、次の項目を明文化する。

• 使ってよいAIサービス
• 入力してはいけない情報
• 顧客向け・社外向けに出す前の確認者
• AI生成物をそのまま使ってはいけない業務
• 問題が起きたときの連絡先
• 新しいAIサービスを使いたいときの申請先

ルールは、禁止だけでなくOK例も必要である。「社内規程の要約は可」「顧客名を伏せた文章の下書きは可」「契約文の最終判断は不可」のように、現場が判断できる粒度にする。

よくある質問

Q1. 無料版の生成AIを禁止すれば十分ですか

十分ではない。無料版の禁止に加え、承認済みサービス、入力禁止情報、ログ、出力確認、SaaS連携権限を決める必要がある。

Q2. AI議事録ツールも対象ですか

対象である。会議には顧客情報、契約情報、人事情報、未公開情報が含まれることがある。録音データ、文字起こし、要約の保管先と学習利用の有無を確認する。

Q3. セキュリティ部門がない会社はどうすべきですか

まず管理部門・情シス・経営者で最低限の利用ルールを作り、承認済みサービスを絞る。難しい場合は外部のセキュリティ顧問を使うのが現実的である。

参考情報

• IPA「情報セキュリティ10大脅威 2026」：https://www.ipa.go.jp/security/10threats/10threats2026.html
• IPA「AI利用者のための脅威と対策」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html