結論：オンプレAIは「安全そう」だけで選ばない
生成AIを業務に使いたいが、機密情報や個人情報をクラウドAIへ入れにくい企業は多い。設計図面、製造条件、契約、医療・人事・法務情報などは慎重な扱いが必要である。
ただし、オンプレAIやプライベートAIは万能ではない。GPU、運用、モデル更新、RAG、権限、ログ、セキュリティパッチまで自社で考える必要がある。
向いている業務
| 業務 | 理由 |
|---|---|
| 設計図面検索 | 外部送信しにくい技術情報 |
| 契約書レビュー | 顧客別条件や秘密保持 |
| 製造ナレッジ検索 | 現場ノウハウと品質情報 |
| 人事・労務検索 | 個人情報と規程 |
| 研究開発文書 | 未公開情報 |
100点監査表
| 監査項目 | 配点 | 100点条件 |
|---|---|---|
| データ分類 | 15点 | 機密、個人情報、社外秘を分類 |
| モデル選定 | 10点 | 用途、精度、運用費で比較 |
| RAG | 15点 | 文書更新、出典、権限を設計 |
| 権限 | 15点 | 部署、役職、案件で制御 |
| ログ | 15点 | 入力、参照、回答を保存 |
| インフラ | 10点 | GPU、ストレージ、バックアップ |
| 運用 | 10点 | モデル更新、脆弱性対応 |
| ROI | 10点 | クラウドAIとの差額を試算 |
90日ロードマップ
| 期間 | 実施内容 | 成果物 |
|---|---|---|
| 1〜2週 | 機密データを分類 | データ台帳、利用可否 |
| 3〜4週 | クラウド/プライベート/オンプレを比較 | FDE+ Select評価表 |
| 5〜8週 | 小規模RAGを構築 | 100文書、権限、ログ |
| 9〜10週 | 精度と運用費を評価 | 正答率、費用、保守 |
| 11〜12週 | 本番方式を決定 | 方式、予算、運用体制 |
GXOで支援できること
GXOでは、クラウドAI、プライベートAI、オンプレAI、社内RAG、レガシー連携を比較し、機密業務に合う導入方式を設計する。