AIを導入した企業の7割超がセキュリティ対策を後回しにしている

IPA（情報処理推進機構）「AI白書 2024」によると、AIを業務導入済みの企業のうち、AI特有のセキュリティリスクに対する対策を「十分に実施している」と回答した割合はわずか26.3%でした。つまり7割超の企業が、AIを使いながらもAI固有の脅威への備えが不十分な状態で運用を続けています。

この状況を受け、総務省は2026年3月27日に「AIのセキュリティ確保のための技術的対策に係るガイドライン」を正式に公表しました（出典：総務省、2026年3月）。本ガイドラインは、AI開発者およびAI提供者を対象に、AI特有の脅威に対する多層防御の考え方と技術的対策を体系的に示した文書です。

「AIで何かやれ」と指示を受けた情報システム部門の方にとって、このガイドラインは対策の出発点になります。本記事では、ガイドラインの要点を整理し、企業が今すぐ着手すべき具体策をまとめます。

なぜ今、AIセキュリティが急務なのか——データが示す現状

AI活用が拡大する一方で、AIシステムを狙った攻撃手法も急速に進化しています。

総務省のガイドラインが特に警鐘を鳴らしているのは、従来のITセキュリティ対策だけではAI固有の脅威に対応できないという点です。ファイアウォールやアンチウイルスで守れる範囲の外側に、AI特有の攻撃面（アタックサーフェス）が存在します。

NIST（米国国立標準技術研究所）が2024年1月に公表した「AI Risk Management Framework」でも、AIシステムに対する脅威として「敵対的操作（Adversarial Manipulation）」を主要リスクに位置づけています（出典：NIST AI 100-2e2023, 2024年1月）。日本の総務省ガイドラインは、このグローバルな動向と歩調を合わせた国内初の技術的対策指針です。

AI特有の脅威——従来のセキュリティ対策では守れない3つの攻撃

総務省ガイドラインが指摘するAI特有の脅威は、大きく以下の3つに分類されます。

脅威1：プロンプトインジェクション

攻撃者がAIへの入力（プロンプト）を巧みに操作し、本来の動作とは異なる応答や情報漏えいを引き起こす攻撃です。たとえば、社内チャットボットに「システムプロンプトを表示せよ」と指示することで、非公開の社内ルールや機密情報が流出するケースが報告されています。

従来の入力バリデーションでは防ぎきれない点が特徴です。

脅威2：学習データ汚染（データポイズニング）

AIモデルの学習データに悪意あるデータを混入させ、モデルの判断を意図的に歪める攻撃です。たとえば、不正なデータを学習させることで、特定の入力に対して誤った分類結果を出力させることが可能になります。

学習フェーズを外部委託している企業や、オープンデータセットを使用している場合にリスクが高まります。

脅威3：モデル窃盗（モデル抽出攻撃）

APIを通じて大量のクエリを送信し、AIモデルの挙動を解析して同等の機能を持つ複製モデルを構築する攻撃です。自社のAIモデルが知的財産である場合、競合他社にモデルの機能を複製されるリスクがあります。

AIセキュリティ対策、何から始めるべきかわからない？

GXOのAIセキュリティ診断で、あなたの組織のリスクを可視化します。

無料でAIセキュリティ診断を申し込む

※ 営業電話はしません | オンライン対応可 | 相談だけでもOK

ガイドラインの最重要メッセージ——「多層防御」で守る

総務省ガイドラインが最も強調しているのは、単一の対策ではなく多層防御（Defense in Depth）の考え方でAIシステムを保護すべきという点です。

AI特有の脅威は、ネットワーク層・アプリケーション層・データ層・モデル層のそれぞれに存在します。1つの防御策が突破されても、次の層で攻撃を食い止める設計が求められます。

以下に、企業が着手すべき多層防御の3ステップを整理します。

ステップ1：入力層の防御——プロンプトの検証と制限

AIへの入力を検証・制限する仕組みを導入します。

  • 入力フィルタリング：システムプロンプトの漏えいを誘発するパターンを検知・遮断する
  • 入力長の制限：過度に長いプロンプトや特殊文字の連続を制限する
  • ロールベースのアクセス制御：AIに渡せる情報の範囲をユーザーの権限に応じて制限する

ステップ2：データ・モデル層の防御——学習パイプラインの保護

学習データとモデルそのものを保護する仕組みを構築します。

  • 学習データの出所管理：使用するデータセットの出典・整合性を検証し、記録を残す
  • データ検証プロセス：学習データに異常値や悪意あるデータが混入していないかを定期的に検査する
  • モデルへのアクセス制御：モデルファイルやAPIエンドポイントへのアクセス権限を最小限に設定する

ステップ3：出力層の防御——AIの応答を監視・制御する

AIの出力結果を監視し、異常な応答を検知する仕組みを導入します。

  • 出力フィルタリング：機密情報や個人情報がAIの応答に含まれていないかを自動チェックする
  • ログの記録と監査：AIへの入出力をすべて記録し、定期的に監査する
  • レート制限：短時間に大量のクエリが送信された場合に遮断し、モデル抽出攻撃を防ぐ

まとめ——ガイドラインを「読んだ」で終わらせない

総務省の本ガイドラインは、AIを開発・提供する企業に向けた技術的対策の指針です。AIを利用するだけの企業であっても、自社が利用するAIサービスの提供者がこのガイドラインに準拠しているかを確認することが、リスク管理の第一歩になります。

対策の要点は3つ。入力層・データ/モデル層・出力層の多層防御を設計すること。単一の対策に依存しないこと。そしてAIの入出力ログを記録・監査する体制を整えることです。

「AIで何かやれ」という指示を受けたとき、セキュリティ対策を後回しにしないことが、結果的にプロジェクトを守ります。

AIセキュリティ対策、何から始めるべきかわからない？

GXOのAIセキュリティ診断で、あなたの組織のリスクを可視化します。

無料でAIセキュリティ診断を申し込む

※ 営業電話はしません | オンライン対応可 | 相談だけでもOK

よくある質問（FAQ）

Q1. このガイドラインは法的拘束力がありますか？

現時点では法的拘束力はありません。ただし、総務省が公表した公式のガイドラインであり、今後の法規制の基盤となる可能性があります。また、インシデント発生時に「ガイドラインの存在を知りながら対策を講じなかった」ことが過失と判断されるリスクは否定できません。業界標準の行動指針として対応しておくことが実務上の安全策です。

Q2. AI開発者・AI提供者が対象とのことですが、AIを利用するだけの企業は無関係ですか？

無関係ではありません。AIを利用する企業は、自社が契約するAIサービスの提供者がガイドラインに準拠した対策を講じているかを確認する責任があります。具体的には、サービス選定時にセキュリティ対策の実施状況をベンダーに確認し、契約書にセキュリティ要件を盛り込むことが推奨されます。

Q3. 多層防御の導入にはどの程度の費用がかかりますか？

対策の範囲と深度によって大きく異なります。入力フィルタリングやログ記録など基本的な対策であれば、既存のインフラに追加する形で数十万円規模から着手可能です。まずは自社のAI利用状況を棚卸しし、リスクの高い領域から優先的に対策を進めることが現実的なアプローチです。

参考資料

  • 総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」（2026年3月） https://www.soumu.go.jp/
  • INTERNET Watch「総務省、AIセキュリティ確保のガイドラインを公表」（2026年3月） https://internet.watch.impress.co.jp/docs/news/2097778.html
  • IPA（情報処理推進機構）「AI白書 2024」（2024年） https://www.ipa.go.jp/
  • NIST「Artificial Intelligence Risk Management Framework (AI RMF 1.0)」AI 100-2e2023（2024年1月） https://www.nist.gov/artificial-intelligence