「対話型」だけじゃない生成AIのポテンシャルとは 富士通が取り組む「特化型生成AI」から探る

　図3は、エンタープライズ生成AIフレームワークの全体像だ。2つのステップから構成される。ステップ1では多様で大規模な企業データからナレッジグラフを準備する。ステップ2ではユーザーがクエリを送信した後、上記の3つの技術によって上段に記されているように実行される。なお、RAGおよびナレッジグラフの意味については図3の下段を確認いただきたい。

●特化型生成AIは「市場として相当なポテンシャルがある」

　以下、エンタープライズ生成AIフレームワークを構成する3つの技術についてポイントを挙げる。これがすなわち、特化型生成AIの技術におけるポテンシャルを表しているともいえる。

1　ナレッジグラフ拡張RAG

　生成AIに関連文書を参照させるための既存のRAG技術では、大規模データを正確に参照できないことが課題となっている。富士通はこれを解決するため、既存のRAG技術を発展させ、企業規則や法令、企業が持つマニュアル、映像などの膨大なデータを構造化するナレッジグラフを自動作成することで、LLMが参照できるデータ量を、従来の数十万～数百万トークン規模から1000万トークン以上に拡大できるナレッジグラフ拡張RAGを開発した。これにより、ナレッジグラフから関係性を踏まえた知識を生成AIに正確に与えられ、論理推論や出力根拠を示せるようになった。

　図4は、ナレッジグラフ拡張RAGの適用事例として、「製品マニュアルQ&A」「ネットワークログ解析」「映像による作業分析」による課題と対応を示したものだ。園田氏によると、「これらは実際の動作を検証した」とのことだ。

2　生成AI混合技術

　生成AIに入力したタスクに対し、最適な特化型の生成AIや機械学習（ML)モデルを自動生成する技術や、意思決定に関わる最適化を対話的に実施する技術などの既存のMLモデルなどを部品のように組み合わせる。プロンプトエンジニアリングやファインチューニングなどを実施することなく、自社の業務に適応したAIモデルを容易かつ迅速に生成できる同社独自の生成AI混合技術だ。

　各AIモデルの向き、不向きを予測して最も性能が高いものを自動的に選択、生成することにより、企業のニーズを満たす高性能な特化型生成AIを数時間～数日程度で素早く生成できる。

　図5は、生成AI混合技術の適用事例と効果として、「契約書順守チェック」「サポートデスクの効率化」「ドライバー最適配置」のケースを挙げたものだ。契約書順守チェック30％の工数削減や、サポートデスクの作業効率の25％向上、運輸業におけるドライバー最適配置の計画策定時間の95％削減などの効果を見込む。