デロイト トーマツ、LLMに企業独自データを組み込む技術ノウハウを集約した「多機能RAGアプリ」を開発

検索精度向上に加え、グラフやチャートなどの視覚的情報の読み取りを可能とする「マルチモーダル」、自社特有の用語定義を行う「独自用語集」などの機能を持つ独自アプリを開発、クライアントサービスで活用

デロイト トーマツ グループのデロイト トーマツ コンサルティング合同会社（東京都千代田区、代表執行役：神山 友佑、以下、「デロイト トーマツ」）は、企業が独自のデータを生成AIを通じて利活用するために、大規模言語モデル（以下、「LLM」）に企業のデータベースを接続するRAG（Retrieval Augmented Generation）の実装を推進しています。今般そのサービス強化のために、RAGの利便性や精度を向上する複数技術を搭載した多機能RAGアプリケーション（以下、「多機能RAGアプリ」という）を開発しました。

RAGは、生成AIが企業内の既存知識や蓄積されたデータを活用するにあたり有用な手段である一方、ビジネスで利活用するための技術課題が複数顕在化しています。具体的には大量のドキュメントの中から必要な情報を検索できない、ドキュメント中のグラフやチャートなどの視覚的情報が読み取れない、複数の問いを含む複合的な質問に回答できない、自社独自の用語をLLMが理解していないため回答が正確ではないといった課題です。デロイト トーマツでは、様々な生成AIプロジェクトにてこれら課題に対峙し、その技術ノウハウの中から、特に利便性や精度の向上に寄与する技術を集約しました。

多機能RAGアプリの主な機能
ユーザーの問いから回答の処理の過程で利用可能な次のような機能を具備しています。

検索精度向上のための機能：複雑な質問をシンプルな質問に分解し複数回の検索を経て回答を生成する「サブクエリ検索」、最初に複数のドキュメントを検索し選別したのちに特定ドキュメントに絞ったチャンク（意味のまとまり）単位での検索を行う「2段階検索」
LLMの回答分野拡張のための機能：テキストのみならずドキュメント中のグラフやチャートなどの視覚的情報を読み取り可能とする「マルチモーダル」、業界や自社特有の用語の定義を登録しその定義を踏まえた回答を生成するための「独自用語集」
回答精度向上のための機能：評価の高い回答を優先的に表示するために一次保存し検索を経ずに回答を生成する「回答キャッシュ」、管理者がFAQデータ登録しそれをもとに回答を生成する「FAQ回答」