高精度RAG／GraphRAGとは｜「答えを外さない」社内AIの作り方

「社内AIを入れたのに、肝心なところで見当違いを答える」。これは天神のIT企業さんから受けた相談ですが、実は「あるある」です。原因の多くはAIの頭の良し悪しではなく、渡している資料の側にあります。この記事では、社内AIの土台であるRAGの限界と、その発展形であるGraphRAG、そして中小企業が現実的に精度を上げる順番を、KOKORASHI AI（ココラシエーアイ）の実装経験からお話しします。RAGの基礎を知りたい方は関連記事も参考にしてください。

通常のRAGの限界｜なぜ答えを外すのか

RAGは、質問に近い社内資料を探し出し、それを根拠にAIが答える仕組みです。便利ですが、次の場面で崩れます。

• 関連する情報が複数の資料にまたがるとき（1か所しか拾えず、片手落ちの答えになる）
• 「AとBの関係は？」のような、つながりを問う質問（文章の近さでは関係が拾えない）

たとえば「担当者Xが関わった案件の共通点は」と聞くと、通常のRAGは「Xが出てくる文章」は拾えても、案件同士のつながりは見えません。ここが典型的な限界です。

GraphRAGの発想｜「関係性」でつなぐ

GraphRAGは、情報を単なる文章の塊としてではなく、「誰が・何に・どう関わったか」という関係性の地図として持つ発想です。

何が変わるか

• 「人・案件・製品」などを点、「担当した・関連する」などを線として整理する
• 点と線をたどることで、複数資料をまたぐ質問にも答えられる

先ほどの「Xが関わった案件の共通点」も、Xという点から線をたどれば見つけられます。ただし、この地図を作るには元データの整理が前提になります。ここが本題です。

精度を上げる3要素｜順番が大事

私がいつもお伝えするのは「GraphRAGという名前より、その手前の地味な準備で9割決まる」ということです。効く順番は決まっています。

データ整理が9割

散らかった資料をどんなに賢いAIに渡しても、答えは散らかります。まず古い版・重複・矛盾を片づける。これが一番地味で、一番効きます。

チャンク（区切り方）

資料を細切れにしてAIに渡すのですが、文の途中でぶつ切りにすると意味が壊れます。見出しや段落など「意味のまとまり」で区切るのが基本です。

評価の仕組み

印象診断LABO（約400万円規模の開発）で痛感したのは、「良くなった気がする」では改善できないということです。想定質問を20問ほど用意し、正解と照らして採点する。この物差しがないと、精度改善はただの勘になります。

それでも外すとき｜手前で試せる工夫

GraphRAGに進む前に、通常RAGのままで効く調整があります。私が現場でよく回す順番です。

探す件数を増やす・絞る

AIに渡す資料の候補は数を調整できます。少なすぎると根拠を取りこぼし、多すぎると関係ない資料が混じって答えがぼやけます。まず候補数を変えて、当たり方の変化を見ます。

質問の言い換えを用意する

利用者は「返品」と書いたり「返送」と書いたりします。よく使う言葉の揺れを事前に整理しておくと、探し当てる精度が上がります。

答えに根拠を添えさせる

回答と一緒に「どの資料を見たか」を出す設定にすると、外したときに原因を追いやすくなります。天神の保険代理店さんは、この根拠表示を入れただけで社内の信頼感がぐっと増しました。

中小企業が現実的にやる順番

いきなりGraphRAGを目指す必要はありません。段階を踏むほうが失敗しません。

1. 資料の棚卸し：捨てる・統一する。ここだけで通常RAGの精度がかなり上がる
2. 想定質問リストで評価：どこで外すかを把握する
3. 足りなければGraphRAG的な整理：関係性を問う質問が多いなら検討

博多の卸売業さんは、実は1番の棚卸しだけで「見当違いの回答」がほぼ収まりました。GraphRAGは「必要になったら」で十分間に合います。

まとめ

• 通常のRAGは、複数資料をまたぐ質問や関係性を問う質問で答えを外しやすい
• GraphRAGは情報を「関係性の地図」として持つ発展形
• 精度はデータ整理→区切り方→評価の順で決まり、地味な準備が9割
• 中小企業はまず資料の棚卸しと評価から。GraphRAGは必要になってからで十分

よくある質問

Q. GraphRAGは中小企業でも必要ですか？
多くの場合、まずは不要です。答えを外す原因の大半は資料の散らかりにあり、古い版や重複を片づける「棚卸し」だけで通常RAGの精度はかなり上がります。人や案件のつながりを問う質問が多い場合に、GraphRAG的な整理を検討すれば十分間に合います。

Q. 社内AIが見当違いを答えるのはAIが悪いからですか？
多くはAIの頭の良し悪しではなく、渡している資料の側に原因があります。古い版・重複・矛盾した資料をそのまま渡すと、答えも散らかります。まず資料を整理し、意味のまとまりで区切ることが、精度改善の一番の近道です。

Q. 精度が上がったかどうか、どう確認すればいいですか？
想定される質問を20問ほど用意し、正解と照らし合わせて採点する仕組みを作ります。「良くなった気がする」では改善できません。この物差しがあって初めて、どこで外すかが分かり、狙って精度を上げられます。