結論：RAGは、検索した資料を根拠にAIが回答する仕組み
RAG（検索拡張生成）は、利用者の質問に関連する社内文書やデータを検索し、取得した内容を生成AIへ渡して回答を作る仕組みです。モデルを再学習しなくても資料の追加・更新を反映しやすく、回答と一緒に出典を示せます。ただし、誤回答がゼロになるわけではなく、文書の正本管理、検索精度、アクセス権、人の確認が必要です。
| 1. 質問 | 利用者が自然文で入力例：「キャンセル規定は？」 |
|---|---|
| 2. 検索 | 関連箇所を探すキーワード検索やベクトル検索、両方の組み合わせを使う |
| 3. 取得 | 必要部分だけ取り出す閲覧権限を確認し、関連する文書の一部を取得する |
| 4. 生成 | 資料を根拠に回答質問と取得した文章をLLMへ渡す |
| 5. 表示 | 回答と出典を返す文書名、版、該当箇所を表示し、人が確認できるようにする |
通常の生成AI・検索・ファインチューニングとの違い
| 通常の生成AI | 学習済み知識で回答自社の最新規程や非公開資料は原則知らない |
|---|---|
| 社内検索 | 文書や候補を一覧表示利用者が資料を開き、答えを探す |
| RAG | 検索結果を基に文章で回答最新資料を差し替えやすく、出典を表示できる |
| ファインチューニング | モデルの振る舞いを調整文体や定型出力に向く。最新知識の参照とは目的が異なる |
自社の最新情報を質問形式で探したいならRAGが候補です。一方、予約枠や在庫など常に変わる現在値は、RAGへ文書として入れるより、元のデータベースを直接照会する設計が向いています。
RAGに向いている業務・向かない業務
| 社内規程・手順書 | 向いている正本と更新日が明確で、答えの根拠を示せる |
|---|---|
| 商品・料金・施設案内 | 向いている更新頻度が高く、問い合わせが繰り返される |
| 過去の対応履歴 | 条件付き個人情報を減らし、利用者ごとの閲覧権限を設ける |
| 予約・在庫の現在値 | RAGだけでは不足検索ではなく、予約台帳やDBのリアルタイム照会が必要 |
| 採用・契約・支払いの判断 | 最終判断に使わないAIは資料提示までとし、責任ある判断は人が行う |
ホテル・旅館なら館内案内、宿泊約款、接客手順、周辺案内。美容サロンならメニュー、施術前後の案内、キャンセル規定、スタッフ向け手順書が候補です。正解の根拠となる文書があり、同じ質問が繰り返される業務から始めます。
社内AI検索・RAGを作る7つの手順
最初にベクトルDBを選ぶのではなく、質問・正解・根拠文書から設計します。
STEP 1 質問と正解を20〜50件集める
実際に現場で聞かれる質問と、正しい回答、根拠文書を小さく集めます。先に評価用の質問を作ると、検索やモデルを変えたときに改善したか比較できます。
STEP 2 参照する文書の正本を決める
同じ規程の旧版や下書きを除き、正式版、更新日、管理者を決めます。RAGは間違った資料も忠実に検索するため、文書整理が精度の土台です。
STEP 3 文書を読み取り、検索単位に分ける
PDF、Webページ、表などから文章と見出しを取得し、意味が切れない長さに分割します。文書名、章、更新日、権限などのメタデータも一緒に保存します。
STEP 4 検索方法を組み合わせる
意味の近さを探すベクトル検索だけでなく、商品番号や固有名詞に強いキーワード検索を組み合わせます。必要に応じて検索結果を並べ替え、関連性の高い部分を選びます。
STEP 5 回答ルールと出典表示を決める
取得した資料だけを根拠にする、根拠がなければ「分からない」と返す、文書名と該当箇所を示す、重要判断は人へ引き継ぐというルールを設定します。
STEP 6 利用者ごとの権限を検索時に適用する
部署、役職、店舗、会社、案件ごとの閲覧権限を、回答後ではなく検索前に確認します。複数会社のデータを一つの検索対象へ無条件に混ぜません。
STEP 7 評価してから対象を広げる
正解が検索できたか、回答が根拠と一致するか、出典が正しいか、答えがない質問を拒否できるか、応答時間と費用を確認します。基準を満たした業務から利用範囲を広げます。
RAGの精度をどう評価するか
| 検索 | 正しい根拠が上位に出るか評価質問ごとに、必要な文書が取得されたか確認 |
|---|---|
| 回答 | 根拠と内容が一致するかもっともらしさではなく、資料との整合を見る |
| 出典 | 参照先が正しいか文書名、版、該当箇所を開いて確認できる状態にする |
| 拒否 | 不明を不明と言えるか資料にない質問へ推測で答えないことを確認 |
| 安全 | 権限外情報が出ないか部署・会社をまたぐテストと悪意ある文書のテストを行う |
| 運用 | 時間と費用が許容内か応答時間、利用料、文書更新の作業量を測る |
「回答が自然だった」だけでは評価できません。検索と生成を分けて確認し、どこで誤ったかを特定します。Microsoftの設計ガイドも、単純な構成に見えるRAGを業務へ合わせるには、設計・実験・評価を厳密に行う必要があると説明しています。
RAGの構築費用
| 試作 | 既存サービスの月額＋設定作業少数の公開・社内文書で、質問と検索精度を検証する |
|---|---|
| 小規模な専用RAG | 30万〜100万円が制作目安認証、管理画面、文書登録、検索、出典表示を含むShingo Kumonの料金目安 |
| 追加費用 | 利用量に応じて発生生成AI API、埋め込み、検索DB、文書保存、監視など |
| 保守 | 文書と評価の継続更新サービス更新、障害対応、権限確認、精度評価を行う |
文書数よりも、利用者ごとの権限、PDFや表の読み取り、既存システム連携、回答品質の基準が費用に影響します。最初は一業務・20〜50問の評価セットで試し、効果を確認してから文書と利用者を増やします。
RAGのセキュリティ
RAGでは、検索前に利用者と文書の権限を照合し、会社・部署・案件をまたぐ情報漏えいを防ぎます。取得した文書に悪意ある命令が含まれる「間接プロンプトインジェクション」も想定し、文書を命令として扱わない、外部操作の権限を分離する、重要操作を人が承認する対策が必要です。
詳細は生成AIに社内情報を安全に使わせる方法で、情報分類、サービス選定、事故時の対応まで整理しています。
一次資料・技術資料
参考：IPA「AI利用者のためのセキュリティ豆知識」／Microsoft「RAG Solution Design and Evaluation Guide」／OWASP「RAG Security Cheat Sheet」
よくある質問
RAGとは何ですか？
RAGはRetrieval-Augmented Generation（検索拡張生成）の略で、質問に関連する社内文書やデータを検索し、その内容を根拠として生成AIに回答させる仕組みです。モデルを再学習しなくても、資料の追加・更新を回答へ反映しやすい特徴があります。
RAGとChatGPTなど通常の生成AIは何が違いますか？
通常の生成AIは主に学習済みの知識で答えます。RAGは質問のたびに指定した文書を検索し、その結果を回答材料として渡します。そのため、自社の非公開情報や更新される規程を根拠にした回答を作れますが、文書管理と権限設定が必要です。
RAGを使えばハルシネーションはなくなりますか？
なくなりません。検索が外れる、古い文書を取得する、取得内容と異なる文章を生成する可能性があります。評価質問、出典表示、根拠がない場合の回答拒否、人の確認を組み合わせます。
PDFをアップロードするだけでRAGは作れますか？
試すことはできますが、実務利用には文書の正本管理、表や画像の読み取り、適切な分割、検索方法、閲覧権限、出典表示、更新・削除の運用が必要です。PDFのレイアウトによっては抽出結果の確認も必要です。
RAGの構築費用はいくらですか？
文書数、利用者数、認証、権限、既存システム連携、評価要件で変わります。Shingo Kumonでは、認証・管理画面・文書登録・検索・出典表示を含む小規模な専用RAGを30万〜100万円の制作目安としています。別途、AI APIや検索DBなどの利用料が発生します。
自社資料で答えるAIを、小さく作ります
質問と正解の整理から、文書検索、権限、出典表示、既存システム連携、公開後の評価まで一つの流れで設計します。
サービス内容を見る