高精度RAG／GraphRAGとは｜「答えを外さない」社内AIの作り方
通常のRAGが答えを外す理由から、関係性でつなぐGraphRAGの発想、精度を上げる要素（データ整理・チャンク・評価）までを解説。中小企業が現実的に取り組む順番を、非エンジニア向けにまとめます。
野村 直矢
KOKORASHI AI ／ 福岡のAI導入支援・LINE Bot開発
「社内AIを入れたのに、肝心なところで見当違いを答える」。これは天神のIT企業さんから受けた相談ですが、実は「あるある」です。原因の多くはAIの頭の良し悪しではなく、渡している資料の側にあります。この記事では、社内AIの土台であるRAGの限界と、その発展形であるGraphRAG、そして中小企業が現実的に精度を上げる順番を、KOKORASHI AI（ココラシエーアイ）の実装経験からお話しします。RAGの基礎を知りたい方は関連記事も参考にしてください。
通常のRAGの限界｜なぜ答えを外すのか
RAGは、質問に近い社内資料を探し出し、それを根拠にAIが答える仕組みです。便利ですが、次の場面で崩れます。
- 関連する情報が複数の資料にまたがるとき（1か所しか拾えず、片手落ちの答えになる）
- 「AとBの関係は？」のような、つながりを問う質問（文章の近さでは関係が拾えない）
たとえば「担当者Xが関わった案件の共通点は」と聞くと、通常のRAGは「Xが出てくる文章」は拾えても、案件同士のつながりは見えません。ここが典型的な限界です。
GraphRAGの発想｜「関係性」でつなぐ
GraphRAGは、情報を単なる文章の塊としてではなく、「誰が・何に・どう関わったか」という関係性の地図として持つ発想です。
何が変わるか
- 「人・案件・製品」などを点、「担当した・関連する」などを線として整理する
- 点と線をたどることで、複数資料をまたぐ質問にも答えられる
先ほどの「Xが関わった案件の共通点」も、Xという点から線をたどれば見つけられます。ただし、この地図を作るには元データの整理が前提になります。ここが本題です。
精度を上げる3要素｜順番が大事
私がいつもお伝えするのは「GraphRAGという名前より、その手前の地味な準備で9割決まる」ということです。効く順番は決まっています。
順番 | 要素 | やること |
|---|---|---|
1 | データ整理 | 古い・重複した資料を捨て、正しい版に統一する |
2 | チャンク（区切り方） | 資料を意味のまとまりで区切る。文の途中で切らない |
3 | 評価 | 想定質問リストで「正しく答えたか」を採点する |
データ整理が9割
散らかった資料をどんなに賢いAIに渡しても、答えは散らかります。まず古い版・重複・矛盾を片づける。これが一番地味で、一番効きます。
チャンク（区切り方）
資料を細切れにしてAIに渡すのですが、文の途中でぶつ切りにすると意味が壊れます。見出しや段落など「意味のまとまり」で区切るのが基本です。
評価の仕組み
印象診断LABO（約400万円規模の開発）で痛感したのは、「良くなった気がする」では改善できないということです。想定質問を20問ほど用意し、正解と照らして採点する。この物差しがないと、精度改善はただの勘になります。
それでも外すとき｜手前で試せる工夫
GraphRAGに進む前に、通常RAGのままで効く調整があります。私が現場でよく回す順番です。
探す件数を増やす・絞る
AIに渡す資料の候補は数を調整できます。少なすぎると根拠を取りこぼし、多すぎると関係ない資料が混じって答えがぼやけます。まず候補数を変えて、当たり方の変化を見ます。
質問の言い換えを用意する
利用者は「返品」と書いたり「返送」と書いたりします。よく使う言葉の揺れを事前に整理しておくと、探し当てる精度が上がります。
答えに根拠を添えさせる
回答と一緒に「どの資料を見たか」を出す設定にすると、外したときに原因を追いやすくなります。天神の保険代理店さんは、この根拠表示を入れただけで社内の信頼感がぐっと増しました。
中小企業が現実的にやる順番
いきなりGraphRAGを目指す必要はありません。段階を踏むほうが失敗しません。
- 資料の棚卸し：捨てる・統一する。ここだけで通常RAGの精度がかなり上がる
- 想定質問リストで評価：どこで外すかを把握する
- 足りなければGraphRAG的な整理：関係性を問う質問が多いなら検討
博多の卸売業さんは、実は1番の棚卸しだけで「見当違いの回答」がほぼ収まりました。GraphRAGは「必要になったら」で十分間に合います。
まとめ
- 通常のRAGは、複数資料をまたぐ質問や関係性を問う質問で答えを外しやすい
- GraphRAGは情報を「関係性の地図」として持つ発展形
- 精度はデータ整理→区切り方→評価の順で決まり、地味な準備が9割
- 中小企業はまず資料の棚卸しと評価から。GraphRAGは必要になってからで十分
よくある質問
Q. GraphRAGは中小企業でも必要ですか？
多くの場合、まずは不要です。答えを外す原因の大半は資料の散らかりにあり、古い版や重複を片づける「棚卸し」だけで通常RAGの精度はかなり上がります。人や案件のつながりを問う質問が多い場合に、GraphRAG的な整理を検討すれば十分間に合います。
Q. 社内AIが見当違いを答えるのはAIが悪いからですか？
多くはAIの頭の良し悪しではなく、渡している資料の側に原因があります。古い版・重複・矛盾した資料をそのまま渡すと、答えも散らかります。まず資料を整理し、意味のまとまりで区切ることが、精度改善の一番の近道です。
Q. 精度が上がったかどうか、どう確認すればいいですか？
想定される質問を20問ほど用意し、正解と照らし合わせて採点する仕組みを作ります。「良くなった気がする」では改善できません。この物差しがあって初めて、どこで外すかが分かり、狙って精度を上げられます。