AIチャットが間違った回答をしたときの対応フロー｜福岡の中小事業者が公開前に決めておく5つのこと

KOKORASHI AI（ココラシエーアイ）の野村です。「AIチャットが間違ったことを答えたらどうしよう」という不安は、導入を検討する福岡の事業者さんから最も多く聞く相談のひとつです。

結論から言うと、AIの誤回答をゼロにすることはできません。大切なのは、間違いが起きたときの動きを、公開前に決めておくことです。

なぜ誤回答は起きるのか

多くの場合、原因は回答のもとにしている情報が古い、または足りないことです。料金や営業時間を変えたのに回答を直し忘れた、というケースが目立ちます。

• 回答のもとの文章が古いまま
• 書かれていない質問に、推測で答えてしまう
• 似た質問が複数あり、別の回答が選ばれる

手順1：間違いを見つける仕組みをつくる

週に1度、AIの会話記録を見返す時間を決めてください。見るのは、お客様が「違う」「そうではなく」と返した会話と、担当者へ引き継いだ会話です。

手順2：お客様への対応を決める

間違いが分かったら、すぐに正しい情報をお伝えし、お詫びします。文面をあらかじめ用意しておくと、慌てずに済みます。

• お詫びと、正しい内容のお伝え
• 必要なら、担当者からの連絡の約束
• お客様に損が出ていないかの確認

手順3：回答の直し方を決める

誤りの原因が回答のもとにあるなら、元の文章を直します。答えられない質問なら、「担当者がご案内します」に切り替えます。直す担当者と、反映までの目安日数を決めてください。

手順4：記録して、次に活かす

間違いの内容・原因・直した日を、簡単な表に残します。同じ種類の間違いが続くときは、回答の作り方そのものを見直すサインです。

手順5：お客様にも「AIの案内」と伝えておく

チャットの冒頭に「AIがご案内します。大切な内容は担当者がご確認します」と書いておくと、お客様の期待がそろいます。料金や契約に関わる質問は、人が確認する流れにしておくと安心です。

まとめ

• 誤回答はゼロにできないので、起きたときの動きを先に決める
• 週に1度、会話記録を見返して間違いを見つける
• お詫びと訂正の文面を用意しておく
• 回答のもとを直し、記録に残して再発を防ぐ

KOKORASHI AIでは、公開前に誤回答の対応フローを一緒に決めてから運用を始めます。

誤回答の例と、対応の具体例

たとえば、営業時間を変更したのに回答の文章が古いままで、お客様に旧時間を案内してしまったとします。動きは次のとおりです。

• お客様に、正しい営業時間とお詫びをお伝えする
• 回答のもとの営業時間を直し、同じ日に反映する
• 同じ営業時間が書かれているほかのページも、まとめて見直す
• 記録に「営業時間の変更時に回答を直し忘れた」と書く

原因が「変更時の手順の抜け」だと分かれば、料金や休業日を変えるときのチェック項目に「チャットの回答を直す」を加えるだけで、再発を防げます。

人に引き継ぐ線を引いておく

間違いが起きたときの影響が大きい質問は、最初から人が答える設計にしておくと安心です。

• 料金の見積もりや、金額が変わる個別の相談
• 契約・返金・キャンセルに関わる質問
• 健康・安全・法律に関わる質問

小さく始めて、AIが安定して答えられる範囲だけを少しずつ広げる進め方なら、大きな誤りを避けながら運用を育てられます。

公開前に準備しておくもの

対応フローを動かすために、次の3つを準備しておくと、いざというときに慌てません。

• お詫びと訂正の文面（そのまま使える形で保存しておく）
• 会話記録を見る担当者と、見る曜日
• チャットを一時停止する手順と、判断する人

特に、一時停止の手順は、普段の運用では使わないため忘れがちです。導入時に1度、実際に止めて再開する練習をしておくと安心です。小さな事業者ほど、1人で全部を抱えてしまいやすいので、役割を紙に書いて共有してください。

補足：運用開始後の見直しポイント

対応フローは、作って終わりにせず、半年に1度ほど見直してください。扱う商品やサービスが増えると、起きる間違いの種類も変わります。

スタッフが複数いる事業者では、誰が会話記録を見るのかを決めておくことが大切です。担当が曖昧だと、見返しが後回しになります。

お客様からの指摘は、回答を良くするための貴重な情報です。指摘をくれた方に感謝を伝え、直したことを知らせると、信頼を高める機会にもなります。

最後に、緊急時の連絡先を決めておくと安心です。大きな誤りが見つかったとき、チャットを一時停止する判断を誰ができるのかも、あらかじめ決めておいてください。

よくある質問

Q. 誤回答が心配で導入をためらっています。
小さな範囲で公開し、答えが決まっている質問だけを任せる形から始めると、リスクを抑えられます。

Q. 会話記録はどこで確認できますか？
導入するツールによって異なります。見返しやすい形で保存できるか、導入前に確認してください。

Q. 誤回答でトラブルになったら誰が対応しますか？
契約前に、責任範囲と対応の窓口を書面で確認してください。