富士通、エンタープライズ向けの生成AIフレームワークを7月より提供開始

今回発表したエンタープライズ生成AIフレームワークでは、これらの3技術を組み合わせて展開する。このフレームワークは、企業内のデータからナレッジグラフを準備するステップと、ユーザーのクエリに基づいて適切なモデルを選択または生成して出力を制御するステップの2つのステップで利用できる。

ナレッジグラフ拡張RAG

RAG（Retrieval Augmented Generation）は、生成AIと外部のデータソースを組み合わせて能力を拡張し適切な出力を得るための技術として注目されている。しかし既存のRAG技術には、クエリの特徴量に似た断片的な情報しか処理できず、大規模データを正確に参照できない課題があった。

富士通は、法令や起業規則やマニュアルなどの膨大なデータを構造化するナレッジグラフを自動作成することで、1000万トークン以上のデータを処理可能なRAGを開発した。ナレッジグラフによって関係性を踏まえた知識を生成AIに与えられるようになり、論理推論や出力根拠も示せるのだという。

具体的には、ユーザーからのクエリに対して回答を導くために必要なスキーマを抽出し、ナレッジグラフから適切な情報のみを選択する仕組みとなっている。従来の平均的なRAG技術と比較して、生成AIに与える情報量は約4分の1まで削減できるそうだ。

この技術は、複数ページにまたがる膨大な製品マニュアルを用いたQ&Aや、多量のネットワークログと過去の障害事例を参照したネットワークログ解析、映像データの集計による作業分析などに適用できるとのことだ。

生成AI混合技術

生成AI混合技術は、入力したタスクに対して適切な特化型モデルや既存の機械学習モデルを選択する、もしくは、各モデルを部品のように組み合わせて独自の新たなモデルを自動生成する技術。

それぞれのモデルの向き・不向きから最も高い性能が期待できるモデルを選択・生成することで、企業の要望に対応する独自の特化型生成AIを短期間で構築可能な特徴を持つ。小中規模の軽量なモデルを採用できるため、電力と計算資源の消費抑制にもつなげられる。

同社の実証段階では、ソフトウェア契約書の順守チェックに特化したモデルを自動生成して約30%の工数を削減できたという。プロンプトエンジニアリングなどで業務知識を扱えるようにする作業は事前に実施していない。

その他にも、サポートデスク業務を適切な人員に割り振って効率化するために必要なモデルを自動生成した際には、作業効率が約25%向上したそうだ。ここでは、サービスデスクに寄せられた問い合わせ（インシデント）をスキルや経験に応じて5人の担当者に割り振った。