デロイト トーマツ、「特化型LLM」の開発サービスを提供

個別企業や事業領域の独自データを学習するファインチューニングにより、顧客企業の課題やニーズにフィットするカスタムソリューションを構築

デロイト トーマツ グループのデロイト トーマツ コンサルティング合同会社（東京都千代田区、代表執行役社長：佐瀬 真人、以下、「デロイト トーマツ」）は、大規模言語モデル(以下、LLM)に、個別企業や特定ドメイン（事業活動領域）特有の語彙や文脈、ニュアンスを学習させる、「ファインチューニング」を行うことでカスタマイズする「特化型LLM」の開発サービスを提供開始します。

デロイト トーマツでは複数ベンダーの有力LLMを検証しながらクライアントニーズに最適な特化型LLMの開発を行います。ベースとなるLLMについてクローズドモデルとオープンモデルも含めパラメーター数やバージョンによる違いを比較・検証することで、ノウハウを蓄積しています。また、ファインチューニングについても、LLM自体のウェイトを書き換えるフルファインチューニングとメモリの消費量を押さえながら効率的に学習するPEFT(Parameter-Efficient Fine Tuning)を比較することで、最適な手法を見出しています。

特化型LLMに対して、広く普及するChatGPT等の汎用LLMはインターネット上の公開文章などで訓練されており、一般的な言語パターンを理解しています。それ故に、個々の業務・事業への理解が深いとは言えず、企業における適用範囲が限定的になったり、専門用語への理解が不可欠な金融や医療などの業界での導入が進んでいなかったりします。また、プライバシーやデータセキュリティの観点から、クラウド提供型の汎用LLMの利用が困難な業種・業界もあります。デロイト トーマツでは、顧客環境でのオンプレミス運用可能な特化型LLMを提供することで、企業のLLMの活用を促進します。


[画像1]https://digitalpr.jp/simg/2100/86194/450_197_20240404124448660e223065bed.png

また、現在主流の生成AIを用いた企業のデータ利活用アプローチである、RAG （Retrieval Augmented Generation）※についても、デロイト トーマツは特化型LLMと共にRAGを実装することで、DB検索や回答生成の精度向上を実現します。また、すでに汎用LLMとRAGを実装している企業に対しても、特化型LLMとの使い分けや組合せによって、企業のニーズに最適なシステムを提案、構築することが可能です。