RAG
Retrieval-Augmented Generation
RAG(検索拡張生成)とは
ひとことで
利用者の質問に関連する情報を社内文書やデータベースなどから検索し、その内容をLLMに渡して回答を生成させる手法。モデルを学習し直さずに、最新情報や社内固有の知識を回答に反映できる。
たとえると
記憶だけで答える物知りな人に、答える前に「関係する資料のページ」を開いて渡してあげるようなものです。資料を見ながら答えるので、記憶違いが減り、最近の出来事や社内のルールについても答えられるようになります。
現場ではこう使う
人事部では、就業規則や社内規程についての問い合わせが毎日のように届いていました。そこで、規程集を検索できるようにしたうえで、質問に関係する条文を探してLLMに渡すRAG型の社内チャットボットを導入しました。回答には参照した規程の名前も表示されるため、社員は根拠を自分で確認できるようになりました。
試験のポイント
EXAM POINT「外部の文書を検索して、その結果をもとに回答を生成」「モデルを再学習せずに社内データを活用」と出てきたらRAGです。モデル自体に追加学習させるファインチューニングとの違いがよく問われます。ハルシネーションを減らす対策として挙げられますが、検索した資料が誤っていたり古かったりすれば回答も誤る点に注意しましょう。
混同しやすい用語との違い
- Fine-tuning追加のデータでモデル自体を学習し直す。RAGはモデルは変えず、回答時に資料を渡す
- Pre-training大量のデータでモデルの基礎能力を作る最初の学習。RAGは学習ではなく利用時の工夫
- MCPAIアプリと外部のツールやデータをつなぐための共通の約束事(プロトコル)。RAGは検索結果を回答に生かす手法そのもの