RAG導入・連携の実務チェック 第1回｜何を答えさせるかを決めないRAGは失敗する

RAG導入の相談で最初に確認すべきなのは、ベクトルDBやLLMの種類ではありません。「何を答えさせるのか」です。

社内文書をまとめて読み込ませれば、問い合わせ対応やナレッジ検索が楽になると考えがちですが、RAGは業務の境界が曖昧なままでは精度評価も運用改善もできません。営業資料、契約書、FAQ、手順書、議事録、過去の問い合わせ履歴を同時に入れても、利用者が期待する答えとシステムが返す答えがずれます。

最初に決めるべき4つの範囲

RAG導入前には、少なくとも次の4点を決めます。

• 利用者: 経営層、営業、CS、情シス、現場担当の誰が使うか

• 業務場面: 問い合わせ対応、提案準備、社内規程確認、障害対応など

• 回答範囲: 事実確認までか、判断案まで出すか

• 禁止範囲: 法務判断、価格確約、人事評価、個人情報を含む回答など

この整理がないまま開発すると、「便利そうだが本番で使えない」状態になります。特にB2BのRAGでは、回答の正しさだけでなく、回答してよい情報かどうかが重要です。

失敗しやすい発注パターン

よくある失敗は、「社内文書を全部検索できるAIを作りたい」という依頼から始めることです。この依頼では、対象文書も利用者も評価方法も決まりません。

開発会社側は、一般的なRAG構成を提案できます。しかし発注側が業務判断の境界を持っていなければ、完成後に「この回答は使えない」「この情報は出してほしくない」「結局、人が探した方が早い」という指摘が出ます。

RAGは検索システムであると同時に、社内の情報公開ルールを実装する仕組みです。技術要件だけでなく、業務要件として扱う必要があります。

発注前チェック

発注前には、次の質問に答えられる状態を目指します。

• 最初の利用部署はどこか

• 週に何件の問い合わせや検索を置き換えたいか

• 回答の根拠として表示すべき資料は何か

• 回答してはいけない情報は何か

• 誤回答が起きた場合、誰が確認・修正するか

ここまで決まると、必要なデータ、権限、評価用の質問セット、ログ設計が見えてきます。

GXOへの相談ポイント

RAG導入を検討する段階では、いきなり大規模な全社検索を作るより、対象部署と業務を絞った小さな本番運用から始める方が現実的です。

GXOでは、社内文書の棚卸し、回答範囲の整理、権限・ログ・評価設計まで含めて、RAG開発前の要件整理を支援します。

RAG導入前の要件整理を相談できます

社内文書、利用部署、回答範囲、権限設計を一緒に整理し、開発前に失敗要因を減らします。

RAG導入・AI開発を相談する

※ 相談内容に応じて、AI導入診断・要件整理・概算見積もりまで対応します。