IPAは情報セキュリティ10大脅威やAIセキュリティ関連資料で、AI利用に伴うリスクを取り上げている。生成AIは、攻撃や情報漏えいのリスクになる一方、ログ分析や問い合わせ対応などSOC業務を支援する可能性もある。

AI時代のSOCでは、従来の端末・ネットワークログだけでなく、AI利用ログも監視対象に入れる必要がある。マネージドSOC、SIEM/SOAR、生成AIセキュリティをつなげて設計する。

AI利用で残すべきログ

ログ目的
利用者誰がAIを使ったか
入力種別機密・個人情報の入力を検知する
出力先外部送信や共有を追う
参照データRAGの検索元を説明する
承認履歴人間が確認したかを残す
エラー誤回答や異常動作を改善する

ログは「残す」だけでは足りない。誰が見て、何を検知し、どの手順で対応するかを決める。

SOCで生成AIを使う時の注意

1. ログを不用意に外部AIへ入れない

セキュリティログにはIP、ユーザー、システム構成、個人情報が含まれることがある。利用ルールを決める。

2. AIの判断をそのまま遮断に使わない

検知の補助には使えるが、本番遮断やアカウント停止は承認フローを設ける。

3. AI利用自体を監査対象にする

セキュリティ担当者がAIを使う場合も、入力内容と出力利用のログを残す。

よくある質問

Q1. ChatGPTの利用ログだけで足りますか

足りない場合が多い。SaaS、RAG、ID管理、端末、ネットワークのログと合わせて見る必要がある。

Q2. SOCでAIを使うと省人化できますか

分析補助や要約には有効だが、判断責任は残る。まずはアラート要約や調査メモ作成から始めるのが現実的である。

Q3. 何から設計すべきですか

AI利用ルール、ログ取得対象、検知条件、対応フロー、保管期間を決める。

参考情報

  • IPA「情報セキュリティ10大脅威 2026」：https://www.ipa.go.jp/security/10threats/10threats2026.html
  • IPA「AIセキュリティ関連情報」：https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html

生成AI利用ログをSOC設計に組み込みませんか

GXOでは、AI利用ログ、SIEM/SOAR、SOC運用、生成AIセキュリティの設計を支援します。

AI時代のSOC設計を相談する