その時代、何を目指した?
生成モデルの重みの中に入った情報だけで、すべての質問へ答えようとする必要はありません。関連する資料を外から探して使う構成が考えられます。
モデル内部の数値に知識を持たせるだけでは、新しい事実への更新や「どの資料が根拠か」の提示が難しくなります。必要な知識を外に置いたまま、文章生成に利用する方法が研究されました。
出典:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
実際には、何をした?
原論文のRAGは、Wikipediaの文書を検索する部分と、取り出した情報を利用して生成する部分を組み合わせています。原資料のMethodsを読むと、資料を保存する場所、検索器、生成器の役割が分かれています。
検索付きサービスがすべて原論文と同じ実装を使うわけではありません。資料を集めた範囲、文書の区切り方、検索方法、回答の作り方によって、失敗の起きる場所も変わります。
出典:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
資料を見て読む
RAGの役割をつかむための模式図。検索の版・対象と、生成した主張の根拠を別々に確認します。RAGは、自己回帰や拡散と並ぶ排他的な生成方式ではなく、外部資料を生成につなぐ仕組みです。
AI ATLAS · 本サイト制作の解説図 · 原図を掲載。研究の実測値・実出力ではありません。
実現を支えたしくみ
2020年のRAG論文では、質問に関連するWikipediaの文章を検索し、質問と検索された文章を生成モデルへ渡す構成を検証しました。検索用の索引と、文章を生成するモデルの役割を分けた点が重要です。
見つからなかった資料、古い資料を選んだ問題、資料にない内容を書いた問題は別々に調べられます。RAGは、Transformerや拡散のようなモデルの構造・生成方式と同じ軸で分類する名前ではなく、検索と生成を組み合わせる構成です。
出典:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
何が変わり、何が残った?
これは検索そのものの発明ではなく、検索と生成を組み合わせる特定の研究です。また、資料を検索して参照する操作だけで、毎回モデルの重みが更新されるわけではありません。検索結果が正しい資料でも、生成した主張との一致は別に確認が必要です。
編集の視点:自分の資料を扱うAIを見るときは、「資料を探す」「選んだ箇所を使って答える」の2段階に分けて確認できます。答えが違うなら、検索で必要なページを逃したのか、見つけたページを誤読したのかを切り分けましょう。
出典:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
出典をたどる
本文は資料をもとにした日本語の解説です。引用画像は個別に出典を表示しています。研究の結果と現在の製品の提供条件は区別して読んでください。
- 研究論文Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Lewis et al. / arXiv · 2020-05-22 · arXiv初公開
読む場所:Abstract; Methods (retriever and generator); Implementation Details
外部Wikipedia検索と生成の組合せ。質問と文書を生成側へ渡す構成。
資料確認 2026-10-22