「Gemini Notebook（RAG）を入れれば社内FAQは作れる」――それ、半分正解で半分間違いです

30秒でわかる本記事のまとめ

• 現状の課題：「社内資料をAIに読ませればQ&Aが作れる」と考えてRAG（Gemini Notebookなど、社内文書をAIに検索・要約させる仕組み）を導入しても、思ったような回答が返ってこないケースが増えています
• 解決策（エッセンス）：RAGが本当に効くのは「文書がぐちゃぐちゃに散らばっていて、かつ量が多すぎて全部読み込めない」ときだけ。SaaSで正規化されたデータや、量の少ないガイドラインには、そもそもRAGは要りません
• 結論（行動示唆）：ツールを入れる前に、自社の情報が「言語化・論理化」できているかをまず確認するのが最初の一歩です

はじめに：「社内資料をAIに読ませれば、あの人に聞かなくて済む」と思ったことはありませんか？

「マニュアルはちゃんと整備してある。あとはAIに読ませれば、新人でも判断できるようになるはず」

そう考えて、Gemini Notebook（旧NotebookLM。いわゆるRAG＝AIが社内文書を検索して回答する仕組み）を試してみたことがある方、多いのではないでしょうか。僕自身、実は少し前まで頻繁にGemini Notebookを使っていました。でも最近、正直あまり使わなくなっています。理由を突き詰めていくと、意外なところに行き着きました。

課題：「読ませれば賢くなる」は半分しか合っていません

先日、こんな記事を読みました。「社内資料をAIに読ませたら、使えない回答が連発」　RAG導入で起きる悲劇と回避策（ITmedia ビジネスオンライン）という記事で、社内資料をAIに読み込ませてQ＆Aシステムを作った企業の事例が紹介されていました。接客マニュアルや業務手順書、過去のメール、チャット履歴まで、判断に関係しそうな資料を片っ端から投入したそうです。

ところが1〜2週間すると、「このシステム、判断できない！」という声が現場から上がり始めたといいます。原因は、投入した資料の中に「ケースバイケースで対応する」「状況次第」といった、書いた本人にしかニュアンスがわからない表現がたくさん含まれていたことでした。

これ、他人事ではありません。多くの中小企業の社内資料は、実はこの「ケースバイケース」だらけです。ベテランの頭の中では明確な基準があっても、文書にする段階で曖昧な言葉に置き換わってしまう。AIはその「行間」を読めないので、資料を読ませれば読ませるほど、逆に的外れな回答を返すようになります。

解決策：正規化されているデータに、RAGはそもそも要りません

❌️ やってしまいがちなパターン：とりあえず社内の文書を全部AIに読ませて、賢い回答が返ってくることを期待する
✅️ うまくいっているパターン：まず「これは誰が判断してもブレない原則」と「これは状況によって人の判断が必要」を仕分けてから、必要な範囲だけAIに渡す

この線引きを整理していて気づいたのですが、実はデータには2種類あります。

一つは、HubSpotやfreeeのようなSaaSですでに正規化されているデータ。商談の履歴も、請求データも、フォームに沿って入力される時点で形式が揃っています。ここにはそもそもRAGは要りません。ClaudeやGeminiがSaaSのAPI（システム同士が直接データをやり取りする仕組み）を読みに行けば済む話だからです。

もう一つは、まだ文書としてバラバラに存在する非構造化データ。この中でも、量が少なくて全部AIに読み込ませられるなら、RAGを介さずそのまま渡せば十分です。RAGが本当に必要になるのは、「バラバラな文書が大量にあって、全部は読み込みきれない」というケースだけなんです。

データの種類ごとに見る、RAGの要不要

ここが重要！：それでも"ぐちゃぐちゃ"なままではAIの回答は良くなりません

ここが一番の落とし穴です。仮にRAGが必要な規模の会社だったとしても、資料そのものが曖昧なままでは、AIの回答品質は上がりません。さきほどの記事の企業も、最終的に解決できたのはRAGの精度を頑張って上げたからではなく、「ケースバイケースで対応」という曖昧な文章を「購入から7日以内・レシートあり・過去6ヶ月の返品2回以下」という具体的な条件に書き換えたからでした。

つまり、RAGを導入するかどうかにかかわらず、言語化・論理化（正規化と標準化）が先、ツールは後。この順番は変わりません。（この「正規化が先」という考え方については、以前のブログ記事「「AIを使え」に焦る前に。中小企業が知るべきAIの3種類と、導入前の"データの正規化"」でも詳しく触れています）

よくある質問

Q. RAG（Gemini NotebookなどのAIツール）を導入すれば、社内のQ&A対応は自動化できますか？
A. 資料の量と整理状態によります。量が少なければRAGを介さずAIにそのまま読ませれば十分ですし、量が多くても資料が曖昧なままでは回答品質は上がりません。まずは資料の言語化・ルール化が先です。

Q. HubSpotやfreeeのデータにもRAGは必要ですか？
A. 基本的に不要です。SaaSのデータはすでに正規化されているため、AIがAPI経由で直接参照すれば十分な精度が出ます。

Q. Gemini Notebook（旧NotebookLM）はどんな場面で使うのが向いていますか？
A. 量が多く、かつある程度整理された文書（議事録の蓄積、過去のブログ記事アーカイブなど）を検索させたい場面に向いています。逆に量が少ない資料や、曖昧な表現が多い資料には不向きです。

結論：あなたの会社の情報、AIに渡す前に「言語化」できていますか？

僕自身、Gemini Notebookをあまり使わなくなったのは、サボっているからではありません。むしろ逆で、ブログやウェビナーの企画は「自分のやり方だけ」を参照したいものではなく、外部のベストプラクティスも取り入れながら考えたい領域です。一方で商談履歴のような「唯一の正解」が必要な情報は、HubSpotという正規化された基盤がすでに答えを持っています。そう考えると、RAGの出番自体が、思ったより限られていたんです。

RAGは魔法の箱ではありません。「これを入れれば安心」ではなく、「まず自社の情報を言葉にして、筋の通ったルールに整理できているか」。御社は今、AIに情報を渡す準備、できていますか？

案内：中小企業のDXならTMRへご相談ください！

「AIツールを入れたのに、思ったような回答が返ってこない」——そんなお悩みを抱えていませんか。

「マニュアルはあるはずなのに、AIに読ませても的外れな答えしか返ってこない……」
「RAGって聞いたことはあるけど、うちに必要なのかどうかもわからない……」

そんなお悩みがあれば、ぜひご相談ください。合同会社TMRが小規模事業者の業務フローに合わせた、データとプロセスの整理からAI活用までを一体でご提案します。

TMRへのお問合せ

関連記事

「AIを使え」に焦る前に。中小企業が知るべきAIの3種類と、導入前の"データの正規化"

「SaaS is Dead」は本当か？freee×HubSpotを選ぶ中小企業だけが知っている、AIエージェント時代の生き残り方

HubSpot Starterプランで疑似的なナレッジベースを構築する