日立、業務特化型の生成AI構築を支援する新サービス「試行から本格的な活用へ」

画像提供：マイナビニュース

日立製作所は8月29日、専門的な業務に適したLLM(大規模言語モデル)の構築を支援する「業務特化型LLM構築・運用サービス」と、生成AIの本番業務への適用を支援する「生成AI業務適用サービス」の提供を10月1日より開始すると発表した。提供価格は個別見積り。日立は2つの新サービスの提供を通じて、生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といった顧客の負担を低減する狙いだ。

「LLMの受託生産を行う工場のようなサービスを」

「業務特化型 LLM 構築・運用サービス」では、企業がもつ手順書や対応記録といった固有のデータの選定や抽出を行い、業務知識として汎用LLM(公開データを中心に学習された言語モデル)に学習させることで、その業務に適した規模・精度のLLMを構築する。

固有の知識データは、社内関係者向けに特有の言い回しがあったり紙で管理されていたりして、そのままでは学習させることが難しいケースが多くある。日立はこれらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進める。

また、日立のLLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに過学習による正答率の低下を防ぎながら専門知識を学習させる。さらに、回答精度を評価する技術や、LLMとRAG(LLMに外部情報の検索を組み合わせることで、回答精度を向上させる技術)を適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築するとのことだ。

また運用開始後も、ビジネス環境の変化や技術の進歩により業務特化型LLMの改善が必要となった場合、日立の生成AI共通基盤上でLLMエンジニアが継続的な学習を担う。GPUエンジニア、データサイエンティストといったプロフェッショナル人材もエンドトゥーエンドで支援する。

同日の記者説明会に登壇した日立 生成AIアプリケーション&共通基盤室 室長の元山厚は「本格的な生成AIの業務適用では、『業務レベルの回答が得られない』『特有な環境の構築・運用ノウハウがない』『膨大なコンピュートリソースへの投資が困難』といった壁がある。日立のデータセンタに生成AI基盤と顧客のデータを活用して、独自LLMの受託生産を行う工場のようなサービスを提供していく」と説明した。

構築したLLMと生成AIアプリを組み込んだ実行環境は、もう一つの新サービスである「生成AI業務適用サービス」により、ニーズに応じた場所で構築、運用ができる。学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できる。