生成AIを使ったチャットボットには、便利さの裏に固有のリスクがある。それは、事実と異なる内容を、もっともらしい文章で答えてしまう「ハルシネーション（もっともらしい誤回答）」である。カスタマーサポートで誤った案内をすれば、顧客の不利益や信頼の低下につながる。回答が流暢であることと、内容が正しいことは別の問題であり、品質を担保する設計をしておかないと、自動化がかえってリスクになる。

本記事は、AIチャットボット導入の前に押さえておきたい「回答品質とハルシネーション対策」を、発注者の視点で解説する。読者として想定しているのは、中小企業の経営者、カスタマーサポートの責任者、DX担当である。技術の詳細は不要で、「誤った回答をどう抑え、わからないときどうするか」を整理できれば十分である。

結論：出典を示し、わからない時は答えず、誤りを抑える

AIチャットボットの回答品質を担保するには、「正しく答える」工夫だけでなく、「間違って答えない」工夫が必要である。品質対策で重視するのは、次の3点である。

  • 回答の元になった情報（出典）を示せるようにする
  • わからないときは、無理に答えず人へつなぐ
  • 自社の文書を元に答えさせ、根拠のない回答を抑える

「何でも答える」より「答えられないことは答えない」設計のほうが、カスタマーサポートでは安全である。

なぜハルシネーション対策が重要か

生成AIは、知らないことでも、文章としては自然な回答を作ってしまうことがある。対策をしないと、次のような問題につながる。

  • 事実と異なる案内を、もっともらしく顧客に伝えてしまう
  • 顧客が誤った情報を信じて行動し、不利益を被る
  • 誤回答が原因で、企業への信頼が損なわれる

回答が流暢だと、利用者は内容を正しいと信じやすい。だからこそ、誤った回答を抑える設計が重要になる。生成AIを業務に使うときのリスクはコールセンターのAIカスタマーサポートDXガイドでも扱っている。

出典を示せるようにする

ハルシネーションを抑える基本は、「回答の根拠を示せるようにする」ことである。自社のFAQやマニュアルを参照して答え、どの文書を元にしたかを示せれば、内容を確認しやすくなる。

工夫内容効果
自社文書を参照させるFAQ・マニュアルを元に答える根拠のない回答を抑える
出典を示す元になった文書・該当箇所を提示確認しやすく、信頼を得やすい
元ページへ誘導詳細は該当ページへ案内利用者が一次情報を確認できる

出典を示せると、利用者は回答の根拠をたどれる。また、誤りがあったときに、どの文書が原因かを特定しやすくなる。回答の元になる文書の整備はFAQ・ナレッジ整備とRAG活用ガイドで詳しく扱っている。

わからない時の対応を決める

回答品質で見落とされがちなのが、「わからないとき、どう振る舞うか」である。無理に答えさせると、ハルシネーションが起きやすい。わからないときの動きを決めておくことが大切である。

  • わからないと伝える：該当する情報がないとき、無理に答えず、その旨を返す。
  • 人へつなぐ：自動で答えられない相談は、有人へ引き継ぐ。
  • 元ページへ案内する：関連する情報があるページへ誘導し、確認を促す。
  • 推測で答えさせない：根拠のない内容を作り出さないよう、参照範囲を限定する。

「わかりません、担当者にお繋ぎします」と返せることは、無理に答えて間違えるより、はるかに安全である。わからないときの動きを、発注前に決めておきたい。有人への引き継ぎは連載の引き継ぎ設計の記事で詳しく扱う。

誤回答を抑える設計

ハルシネーションを完全になくすことは難しいが、起きにくくする設計はできる。次のような工夫を組み合わせる。

  • 自社文書に答えを限定する：一般的な知識ではなく、自社のFAQ・マニュアルの範囲で答えさせる。
  • 答えてよい範囲を絞る：扱う話題を限定し、範囲外は答えない設計にする。
  • 重要な案内は確認を挟む：金額や規約に関わる回答は、確認や有人対応を挟む。
  • 回答を検証する仕組みを持つ：実際の回答を点検し、誤りを見つけて直す流れを作る。

とくに、金額・契約・規約など、誤ると影響が大きい案内は、自動回答だけで完結させず、確認や有人対応を組み合わせるのが安全である。どこまで自動で答えさせ、どこから人を挟むかを、内容の重要度で分けておきたい。

回答を点検し、改善し続ける

回答品質は、導入時に固定されるものではない。実際の回答を点検し、誤りや的外れな回答を見つけて直していくことで、品質は上がっていく。

  • 実際の回答を点検する：定期的に回答内容を確認し、問題がないかを見る。
  • 誤回答を記録する：間違いを見つけたら記録し、原因（元文書か、参照範囲か）を切り分ける。
  • 元文書を直す：誤りの原因が文書にあれば、FAQ・ナレッジを修正する。
  • 答えられなかった質問を拾う：答えられなかった問い合わせを、改善の手がかりにする。

点検と改善の流れがないと、誤回答に気づかないまま運用が続く。誰がどのくらいの頻度で回答を点検するかを、発注前に想定しておきたい。点検は、すべての回答を逐一確認する必要はなく、誤ると影響が大きい話題や、利用の多い問い合わせを重点的に見るだけでも効果がある。限られた手間で品質を保つには、どこを重点的に点検するかを決めておくことが鍵になる。

回答品質でよくある失敗

回答品質の確保では、次のような失敗が起きやすい。いずれも、発注前に方針を決めておけば避けられる。

  • 流暢さを品質と勘違いする：自然な文章だからと内容を確認せず、誤りを見逃す。
  • わからないときの動きを決めない：無理に答えさせ、ハルシネーションを招く。
  • 重要な案内まで自動で完結させる：金額や規約に関わる回答を、確認なしに返す。
  • 点検の仕組みがない：誤回答に気づかず、改善されないまま運用が続く。

回答品質は、一度の設定で決まるものではなく、点検と改善を重ねて高めていくものである。導入後の点検体制まで含めて、発注前に検討しておきたい。

導入前チェックリスト

  • 回答の元になった出典を示せる設計か確認したか
  • わからないときに無理に答えず、人へつなぐ動きを決めたか
  • 自社文書の範囲で答えさせる設計か確認したか
  • 金額・規約など重要な案内に、確認や有人対応を挟む方針を決めたか
  • 実際の回答を点検する担当と頻度を想定したか
  • 誤回答を記録し、元文書を直す流れを想定したか

開発会社に確認する質問

質問確認したいこと
回答の根拠（出典）は示せますか根拠の提示
わからないときはどう振る舞いますか不明時の動き
自社の文書の範囲で答えさせられますか参照範囲の限定
誤回答を見つけて直す仕組みはありますか点検と改善
重要な案内に確認を挟めますか重要回答の扱い

「最新のAIなので間違えません」という説明には注意したい。誤回答が起こりうる前提で、それを抑え、見つけて直す仕組みを示せるかが、信頼できる相手かの分かれ目になる。

相談前に整理しておくとよい情報

  • 誤った案内をすると影響が大きい問い合わせはどれか
  • 金額・契約・規約など、慎重に扱うべき内容はあるか
  • 回答の元にできる自社文書があるか
  • 回答を点検できる社内の担当者がいるか
  • 過去に、案内の行き違いで起きたトラブルはあるか

これらが整理されていなくても相談は可能である。「誤ると困る内容」が見えていれば、そこに確認や有人対応を挟む設計を一緒に組める。

関連記事

よくある質問

Q1. ハルシネーションは完全になくせますか

完全になくすことは難しい。ただし、自社文書の範囲で答えさせる、わからないときは答えない、重要な案内に確認を挟む、といった工夫で起きにくくはできる。「ゼロにする」より「抑え、見つけて直す」前提で設計するのが現実的である。

Q2. 出典を示すと、回答が読みにくくなりませんか

出典の示し方は工夫できる。回答の後に参照元や該当ページへの案内を添える形にすれば、読みやすさを保ちつつ根拠をたどれる。出典を示すことは、利用者の確認手段になり、信頼にもつながる。

Q3. 誤回答が起きたとき、責任はどうなりますか

誤った案内のリスクを下げるためにも、重要な内容は自動回答だけで完結させず、確認や有人対応を組み合わせるのが安全である。どこまで自動で答えさせるか、どこから人を挟むかを、内容の重要度で線引きしておくことが、リスク管理の基本になる。

回答品質とハルシネーション対策を、一緒に設計しませんか

GXOでは、AIチャットボットの回答品質について、出典の提示、わからないときの動き、重要な案内への確認の挟み方、点検と改善の流れを一緒に整理します。誤回答が起こりうる前提で、抑え、見つけて直す現実的な進め方をご支援します。

回答品質の相談をする

※ 初回相談では、営業資料の説明よりも現状整理とリスク確認を優先します。