RAGとは？Retrieval-Augmented Generationの仕組み

AIモデルは学習時に得た知識に基づいて回答を生成します。そのため、学習後に作成された企業のポリシー、製品情報、その他の情報を自動的に把握しているわけではありません。RAG（Retrieval-Augmented Generation）は、回答前に関連する外部情報を取得してモデルに渡すことで、この課題を解決します。

RAGは、AIの回答を企業の実際のドキュメントに基づいたものにします。RAGを使用するカスタマーサポートエージェントは、回答前に最新の返品ポリシーや製品仕様を取得できるため、ハルシネーションのリスクを抑えられます。

このガイドでは、AIにおけるRAGの意味、検索と生成が連携する仕組み、RAGと単体のLLMの違いを解説します。また、RAGの制限事項、生成AIアプリケーションで効果を発揮する場面、RAGがAIエージェントの知識検索をどのように支えるかも紹介します。

概要

• RAGは検索システムと生成モデルを組み合わせ、モデルが学習データの範囲を超える情報を利用できるようにします。
• RAGが取得する知識はモデルの外部にあるため、再学習なしで更新できます。
• ElevenAgentsは、ナレッジベースが大きすぎてモデルのコンテキストに直接収まらない場合にRAGを自動で使用します。これにより、大規模で複雑なナレッジベースでも精度を損なわず、迅速に回答できます。

AIにおけるRAGとは？

RAGは、ブランドガイドライン、製品マニュアル、ナレッジベース記事、社内データベースなどの外部情報をLLMに提供するためのシステムアーキテクチャです。これによりAIはビジネス固有の情報を扱え、モデルが学習していない最新ポリシー、非公開の知識、企業の詳細を回答に反映できます。

LLMが一度に考慮できる情報量にも、コンテキストウィンドウと呼ばれる上限があります。大規模な組織のナレッジベースはこの上限をすぐに超える可能性があるため、RAGは情報をLLMの外部に置き、現在の質問に必要な箇所だけを取得します。

この名前は、情報がシステム内をどのように流れるかを表しています：

• Retrieval（検索）： ポリシードキュメント、ヘルプデスクのログ、在庫ファイルなど、接続された情報源からユーザーのリクエストに一致するコンテンツを検索します。
• Augmented（拡張）： 取得した中で最も関連性の高い文章をプロンプトのコンテキストに追加します。
• Generation（生成）： ユーザーのリクエストと取得したコンテキストを使って回答を生成します。

RAGは、AIの応答を特定の情報源に結びつけるグラウンディングも支援します。LLMが回答を生成する際に利用できる関連資料を提供するためです。たとえば顧客が保証ポリシーについて尋ねた場合、RAGシステムは企業ドキュメントから関連する条件を取得し、LLMに渡して回答させます。

Retrieval-Augmented Generationの仕組み

RAGシステムは外部知識を検索できるよう準備し、ユーザーの質問に最も関連する情報を取得して、回答を生成する前にコンテキストとしてLLMに渡します。

RAGの実装は複雑さがさまざまです。基本的なRAGは単純な検索・生成プロセスを使用しますが、より高度なアプローチでは、クエリの書き換え、フィルタリング、再ランキング、その他の検索手法を追加することがあります。

RAGのプロセスは通常、次の5つのステップで進みます：

1. 知識を準備： ドキュメントを小さな文章に分割する（「チャンク化」と呼ばれるプロセス）、埋め込み（embedding）と呼ばれる数値表現に変換する、検索可能なインデックスまたはベクトルデータベースに保存します。
   
   
2. クエリを処理： システムはユーザーの質問を解釈し、より高度なRAGシステムでは検索前に書き換えや調整を行います。
   
   
3. 関連する文章を取得： リトリーバーは、インデックス化されたナレッジベースからリクエストに最も一致するテキストチャンクを検索します。
   
   
4. モデルへのリクエストにコンテキストを追加： 選択した文章を、ユーザーの質問、関連する指示、会話履歴とともにLLMへ送信します。
   
   
5. 応答を生成： LLMは、取得した資料をコンテキストの一部として使い、回答を生成します。

多くのRAGシステムでは、外部ツールとして必要なときにのみ検索を実行します。ElevenAgentsでは、エージェント設定からナレッジベースにRAGを直接有効化できます。また、会話のフォローアップ時には、クエリの書き換えにより、前の対話や曖昧な参照を正確で自己完結した検索クエリに変換します。

迅速な応答を実現するため、ElevenLabsは各クエリを複数の書き換えモデルに並列送信し、最初に有効な応答を使用するモデルレーシングアーキテクチャも開発しました。この手法によりRAGレイテンシーの中央値を半減し、326msから155msに短縮しました。大規模なナレッジベースで検索が実行される場合でも、自然な会話の流れを維持できる速度です。

LLMとRAGモデルの違いは？

LLMは、言語を理解して生成するモデルです。RAGは、アプリケーションで必要になった際に外部情報を取得する、LLMを囲むアーキテクチャです。

LLMをRAGと組み合わせると、次のように変わります：

「RAGモデル」は、RAGシステム内で使用されるLLMの略称として使われることがあります。たとえば企業がカスタマーサポートに「RAGモデル」を使用していると言う場合、実際には回答の生成前に関連するヘルプセンターやポリシーのコンテンツを取得するLLMを使っていることを指します。

実世界のアプリケーションにおけるRAGモデルの制限事項

RAGはLLMの外部に保存された関連ビジネス知識へのアクセスを向上させますが、検索には固有の制限があり、正しい回答を保証するものではありません。主な制限は、システムが取得する内容、モデルに送る内容、モデルの応答に現れます：

• 検索品質： システムが最も関連性の高い文章を見逃すと、LLMは不完全または弱いコンテキストから始めることになります。不適切な表現のクエリ、弱い意味的な一致、曖昧な表現はいずれも検索を誤った方向へ導く可能性があります。
• 情報源の品質： 古い、矛盾した、または不完全なドキュメントは、信頼性の低い回答につながる可能性があります。
• コンテキストの選択： 不適切なチャンク化や検索の選択により、必要な詳細が失われたり、無関係な情報が混入したりする可能性があります。
• レイテンシーの追加： 検索とクエリ処理は生成前に行われるため、リアルタイムアプリケーションでは応答が遅くなることがあります。
• 生成エラー： LLMは取得した情報を誤って解釈したり、裏付けのない主張を加えたりする可能性があります。

RAGはハルシネーションのリスクを低減できますが、完全になくすことはできません。正確な結果は依然として、適切に維持管理された情報源、効果的な検索、最終応答に対する制御に依存します。

生成AIにおけるRAG：実践的なユースケースとメリット

RAGは、AIアプリケーションが頻繁に変わる情報、組織に属する情報、またはすべてのモデルリクエストに含めるには大きすぎる情報を必要とする場合に最も有用です。

RAGが特に大きな効果を発揮する場面は次のとおりです：

頻繁に更新される情報への対応

RAGは、AIの応答を最新の製品詳細、価格、ポリシー、在庫に沿ったものに保つのに役立ちます。チームは情報源を独立して更新でき、質問があった際にRAGが関連するバージョンを取得します。たとえば、リード選別エージェントは、受電者の見込み度を判定する際に、最新の価格やプランの詳細を取得できます。

非公開または専門的な知識の活用

社内ポリシー、技術ドキュメント、特定チーム向けのサポートコンテンツのように、公開情報ではなく非公開または専門的な知識もあります。RAGなら、公開情報やモデルに組み込まれた情報だけに頼らず、これらの情報源から直接取得できます。

たとえば社内ITまたは人事のヘルプデスクエージェントは、その情報を含まない公開ドキュメントを検索する代わりに、人事専用のナレッジベースから従業員福利厚生に関する質問への回答を取得できます。

大規模なナレッジベースの検索

RAGは、企業のドキュメント量がLLMが1回のリクエストで考慮できる量を大幅に上回る場合に役立ちます。コレクション全体をモデルに送るのではなく、現在の質問に関連する箇所だけを取得します。営業の場面では、技術アシスタントが通話中に製品マニュアルを検索し、関連する要件を見つけられます。

高度なRAGソリューションをElevenAgentsで始める

ElevenAgentsでは、ノーコードのウェブプラットフォーム、またはエージェントを自社プロダクトに直接組み込みたいチーム向けのAPIを通じて、接続された知識ソースとRAGを使用するAI音声・チャットエージェントを構築できます。

RAG対応エージェントでは、ドキュメント、URL、テキストをナレッジベースに追加し、各クエリに関連する情報だけを取得できます。

ElevenLabsはリアルタイム会話向けに検索も最適化し、ElevenAgentsアーキテクチャでRAGレイテンシーの中央値を326msから155msに短縮しました。ダッシュボードでエージェントを設定する場合も、APIを通じて構築する場合も、ElevenAgentsを利用するチームはこれらの検索機能をすぐに活用できます。

構築を始める ElevenAgentsで、またはチームに問い合わせることで、アプリケーションに最適な構成をご相談いただけます。

RAGに関するよくある質問