「自社のデータを使ってAIを賢くしたい」という要望は、RAG（社内文書を検索してAIに答えさせる仕組み）の話にもなれば、ファインチューニング（既存のAIモデルを追加学習で調整すること）の話にもなる。両者はどちらも「自社に合わせる」手段だが、得意なことが違う。これを混同したまま発注すると、本来RAGで足りる用途にファインチューニングを選んで遠回りになったり、逆に振る舞いの調整が必要な場面でRAGだけにこだわって行き詰まったりする。

本記事は「RAG導入・連携の実務チェック」連載の一編として、RAGとファインチューニングの使い分けを発注者の視点で整理する。読者として想定しているのは、中小企業の経営者、DX担当、情シス担当、事業責任者である。技術の詳細に立ち入るのではなく、「自社のやりたいことは、どちらの手段が向くのか」を判断できるようにすることを目的とする。RAG全体の仕組みは社内ナレッジを活かすRAGとAI検索の実務ガイドでも扱っている。

結論：知識の更新はRAG、振る舞いの調整はファインチューニング

RAGとファインチューニングのどちらを選ぶかは、「何を変えたいのか」で決まる。GXOがこの使い分けで重視するのは、次の3点である。

  • 最新の社内知識を答えさせたい、出典を示したい、文書がよく変わるなら、まずRAGを軸に考える
  • 回答の口調・形式・専門的な言い回しを安定させたいなら、ファインチューニングが選択肢になる
  • 多くの実務では「知識はRAG、振る舞いはファインチューニング」と役割を分け、必要なら併用する

迷ったときは、まずRAGで足りるかを確かめるのが現実的である。ファインチューニングは準備するデータや運用の負担が相対的に大きく、効果が読みにくい面もある。RAGで届かない部分が明確になってから、ファインチューニングを足すかどうかを判断したい。

なぜ両者を混同すると遠回りになるのか

RAGとファインチューニングは、AIを自社に合わせる「効かせどころ」が違う。RAGは、AIに渡す情報そのものを差し替える方法である。質問のたびに関係する社内文書を探して渡すため、文書を更新すれば答えも新しくなり、どの文書を根拠にしたかも示せる。AIモデル自体には手を加えない。

ファインチューニングは、AIモデルの振る舞いを追加学習で調整する方法である。たとえば、決まった口調で答える、特定の形式で出力する、専門分野の言い回しに慣れさせる、といった「答え方の傾向」を整えるのに向く。ただし、学習に使ったデータの時点の傾向が反映されるため、知識を最新に保ち続ける用途には向きにくい。新しい情報を反映するには、また学習をやり直す必要がある。

つまり、知識を最新に保ちたいのにファインチューニングを選ぶと、更新のたびに学習し直す重い運用になる。逆に、口調や形式を安定させたいのにRAGだけで頑張ると、渡す文書をどう工夫しても振る舞いが安定しないことがある。効かせどころを取り違えると、手段と目的がかみ合わず遠回りになる。

どちらが向くか：何を変えたいかで判断する

判断の出発点は「自社が変えたいのは知識か、振る舞いか」である。発注者として把握しておきたい違いを、比較表にまとめる。

観点RAGファインチューニング
変えられることAIに渡す知識・情報AIの答え方（口調・形式・言い回し）
最新情報への追従文書を更新すれば反映される反映には再学習が必要
出典の提示根拠文書を示しやすい基本的に示せない
主な準備文書の整理・検索の設計学習用データの作成・整備
向く用途社内ナレッジ検索・問い合わせ対応決まった口調・形式での出力
情報が変わる業務向く向きにくい

判断の目安は次のとおりである。「最新の社内情報を答えさせたい」「どの文書を根拠にしたか示したい」「文書がよく変わる」なら、RAGが軸になる。連載でこれまで扱ってきた多くの社内ナレッジ活用は、こちら側である。一方、「常に同じ口調・同じ形式で答えてほしい」「専門的な言い回しに慣れさせたい」など、知識ではなく答え方を整えたい場合に、ファインチューニングが候補になる。

注意したいのは、ファインチューニングは「賢くする魔法」ではない点である。学習用データを相応の質と量でそろえる必要があり、効果も用途によって読みにくい。安易に選ぶと、準備の負担に見合う成果が出ないことがある。

もう一つ、判断を分かりやすくするための問いがある。「変えたい中身は、明日になっても同じか」という問いである。価格や仕様、規程の内容のように明日には変わりうるものは、知識の側であり、RAGで扱うのが自然である。一方、回答の口調や出力の様式のように、明日になっても変わらないものは、振る舞いの側であり、ファインチューニングが候補になる。この一問を挟むだけで、「自社専用にしたい」という漠然とした要望が、どちらの手段に対応するのかを切り分けやすくなる。

併用という選択肢：知識はRAG、振る舞いはファインチューニング

RAGとファインチューニングは、どちらか一方しか選べないものではない。実務では、役割を分けて併用することが多い。知識の供給はRAGが担い、答え方の安定はファインチューニングが担う、という分担である。

たとえば、社内文書を根拠に最新の情報を答える部分はRAGに任せ、その回答を「自社の決まった様式・口調で出す」部分をファインチューニングで整える、といった組み合わせが考えられる。知識と振る舞いを別の手段で受け持たせることで、それぞれの得意を活かせる。

ただし、併用は構成も運用も複雑になる。最初から両方を組み込むのではなく、まずRAGで知識面を満たし、答え方に課題が残るなら、その時点でファインチューニングの追加を検討する、という順序が現実的である。多くの場合、社内ナレッジ活用の用途では、RAGの設計を丁寧に詰めるだけで実用に届く。RAGの精度を支える要素のうち、文書をどう数値化して探すかは埋め込みモデルの選び方で、どう良し悪しを測るかは評価方法の設計で扱っている。

コストと運用の違いも判断に含める

手段の選択では、精度だけでなく、準備と運用の負担も判断に含めたい。

RAGは、文書の整理と検索の設計が中心になる。文書が更新されたら、その文書を取り込み直せば答えに反映される。学習をやり直す必要がないため、情報がよく変わる業務でも運用が回しやすい。費用は、検索や回答のたびにかかる利用量に応じた部分が中心になる。費用構造の考え方は費用構造とコスト管理で整理している。

ファインチューニングは、学習用データの作成と、学習そのものに手間と費用がかかる。さらに、情報が変われば再学習が必要になるため、変化の多い知識を扱うと運用が重くなりやすい。一方、答え方を一度安定させればその傾向は保たれるため、口調や形式のように「変わりにくいもの」を扱う用途とは相性がよい。

この違いを踏まえると、「変わりやすいもの（知識・最新情報）はRAG」「変わりにくいもの（答え方・形式）はファインチューニング」という整理が、運用負担の面からも理にかなっている。

使い分けの判断でよくある失敗

RAGとファインチューニングの選択では、次のような失敗が起きやすい。いずれも、目的を先に言葉にしておけば避けられる。

  • 「賢くしたい」を一括りにする：知識を増やしたいのか、答え方を整えたいのかを区別せず、手段を取り違える。
  • 最新情報の用途にファインチューニングを選ぶ：情報が変わるたびに再学習が要る重い運用になり、鮮度を保てない。
  • 出典が要る用途で振る舞い調整に頼る：根拠を示す必要があるのに、出典を示しにくい手段を選んでしまう。
  • 準備の負担を見ずにファインチューニングを選ぶ：学習用データの整備や運用の負荷を見積もらず、成果が見合わない。
  • 最初から併用ありきで複雑にする：RAGで足りるかを確かめる前に両方組み込み、構成と運用が重くなる。

判断の軸は単純である。「変えたいのは知識か、振る舞いか」「情報はよく変わるか」「出典は要るか」。この三つに答えれば、どちらを軸にするかはほぼ決まる。

GXOに相談する前に整理するとよい情報

手段の使い分けを一緒に判断するために、相談の前に次の情報を整理しておくと話が早い。すべて揃っていなくても問題ない。

  • AIに「何をできるようにしたいか」（最新情報を答える／決まった口調・形式で答える、など）
  • 対象になる情報がどれくらいの頻度で変わるか
  • 回答に出典（根拠文書）を示す必要があるか
  • 答え方に決まった様式・トーンの要求があるか
  • 学習用に使える、整ったデータが手元にあるか

これらが見えていれば、RAGを軸にするか、ファインチューニングを足すか、併用するかを一緒に判断できる。発注者が技術の詳細を理解している必要はなく、「何を変えたいか」を言葉にできれば十分である。

参考にした外部観点

手段の選択にあたっては、各モデルプロバイダの公式ドキュメントが、RAGとファインチューニングそれぞれの位置づけを確認する出発点になる。OpenAI Platform Documentationはモデルの利用やファインチューニングの考え方を整理しており、Anthropic Documentationも同様にモデル活用の指針を公開している。リスク管理の観点では、NIST AI Risk Management Frameworkが、手段にかかわらずAIを業務に組み込む際のリスクを組織的に扱う枠組みを示している。

実務では、まずRAGで想定質問にどこまで答えられるかを確かめ、足りない部分（多くは答え方の安定）が明確になってから、ファインチューニングの要否を判断すると、手段の選択を誤りにくい。

関連記事

よくある質問

Q1. ファインチューニングのほうが「自社専用」になって精度が高いのではないですか

用途によって異なる。知識を最新に保ちたい用途では、ファインチューニングはむしろ不利になりやすい。情報が変わるたびに再学習が必要で、どの根拠から答えたかも示しにくいためである。社内ナレッジを答えさせる用途なら、RAGのほうが鮮度と出典の面で扱いやすいことが多い。「自社専用」に見えても、目的に合っているかで判断したい。

Q2. RAGとファインチューニングは、どちらから始めるべきですか

多くの場合、まずRAGから確かめるのが現実的である。RAGは文書の更新で答えを最新に保て、出典も示しやすく、準備の負担も相対的に読みやすい。RAGで想定質問にどこまで答えられるかを見て、答え方の安定など残った課題に対してファインチューニングを足すかを判断する、という順序が手戻りを抑えやすい。

Q3. 両方を併用すると、必ず精度は上がりますか

必ずではない。併用は知識と答え方を別の手段で受け持たせる利点がある一方、構成も運用も複雑になり、調整の手間が増える。RAGの設計を丁寧に詰めるだけで実用に届く用途も多い。併用は「RAGで足りない部分がはっきりしてから」検討するのが、費用と運用の面で無理がない。

RAGとファインチューニングの使い分けを一緒に判断しませんか

GXOでは、「知識を更新したいのか、答え方を整えたいのか」という軸で、RAG・ファインチューニング・併用のどれが自社に向くかを整理するご支援をしています。

手段の使い分けを相談する

※ 初回相談では、営業資料の説明よりも現状整理とリスク確認を優先します。