国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開

6月20日・21日開催の AWS Summit 2024 で初披露

　カスタマーサポートDXを推進するカラクリ株式会社（東京都中央区：代表取締役CEO 小田志門、以下カラクリ）は、6月20日に国産LLMの中で初めて※1 Function callingとRAGに対応した「KARAKURI LM 8x7B Instruct v0.1」を公開いたします。本対応により、「KARAKURI LM 8x7B Instruct v0.1」は様々なアプリケーションを人間に代わって操作するAIエージェント※2 としての活用が可能です。そのため生成AIをビジネス実装をする際に、従来の国産モデルであれば必要だった「業界・企業特有のタスクのプログラミング」など導入の手間やコストを大幅に削減できます。
　また本モデルはトレーニングコストを最大50%削減できるといわれているAWS Trainiumを活用しており、開発費用は75万円です。カラクリは、今後も国産モデルの国際競争力を高めていくため、低コスト且つ実用性を重視した開発を進めてまいります。



[画像1: https://prtimes.jp/i/25663/89/resize/d25663-89-5f9e4f98b54e333302b5-0.png ]

※1．カラクリ社調べ（2024年6月時点・オープンソースおよびインターネットで情報公開されている国産LLMとして）
※2．AIエージェントとは、生成AIを活用した、自律的にタスクを実行するソフトウェアのことを指します。これらのエージェントは、検索エンジンやデータベースを始めとした外部のツールを活用し、ユーザーの代わりに様々な作業を遂行します。

開発背景


国際競争力を高めるため、ビジネス実装に不可欠な学習を優先
カラクリは、2016年の創業以来、FriendlyTechnologyをモットーに国内の大手企業向けにAIチャットボットなどのSaaS事業を展開してまいりました。2022年のChatGPTの登場により世界中がテクノロジーの可能性に期待を寄せる一方で、日本国内のセキュリティが厳しい業界（金融・医療・製造など）から独自LLMのご要望を多く頂戴したのも事実です。「日本語に強く」「ビジネス実装に最適な学習」を最優先に取り組んだことで、国産モデルの中でいち早くFunction callingとRAGに対応したモデルの開発に成功いたしました。

KARAKURI LM 8x7B Instruct v0.1について


生成AIが外部ツール（ドキュメントやデータベースなど）を活用し、様々な作業を代行
カラクリは2023年9月に「AWS LLM 開発支援プログラム」に採択いただき、700億パラメーター「KARAKURI LM 70B Chat v0.1」の開発に着手、2024年1月に国産オープンモデルとして最高性能を獲得いたしました。その後、LLMの主流となっているMoE方式を採用し、「KARAKURI LM 8x7B Chat v0.1」を開発しております。
　今回は第三弾となり、本モデルの特徴としてFunction callingを学習させていることから、外部ツールを活用できる点が大きな特徴となります。ユーザーの指示から「どのドキュメント、どのデータベースから検索するのが最適か？」をLLM自身が自動的に選択することができ、幅広い領域での自動化を促進します。また本モデルも、「Japanese MT-Bench」の性能評価で、これまでと同等の評価を得ております（2024年6月18日時点）。


【カスタマーサポート業界のAIエージェント活用例】
カラクリがDX推進するカスタマーサポート業務においても幅広い活用が想定されます。
[表: https://prtimes.jp/data/corp/25663/table/89_1_cba2f53ec355a6ad8df704a35f2e4652.jpg ]

[画像2: https://prtimes.jp/i/25663/89/resize/d25663-89-e9095b5b79474c71a04c-1.png ]

公開URL


https://huggingface.co/karakuri-ai/karakuri-lm-8x7b-instruct-v0.1
デモ
https://lm.karakuri.cc/
※期間限定で公開しており、上記デモは予告なく終了する可能性がございますので予めご了承ください。

KARAKURI LMについて


「KARAKURI LM」は、カラクリが開発する大規模言語（LLM)シリーズの総称です。学習に使うデータさえ質が高ければ、中小企業でもベンチャーでも独自のデータセットをもとに国際的競争力を持つAIモデルを開発可能だということを証明するため、さまざまなシリーズ開発に着手しています。
詳細について：https://ad.karakuri.ai/karakuri-lm

KARAKURI techblogでは、これまで使用した技術の詳細記事を投稿しておりますのでご覧ください。
KARAKURI techblog：https://medium.com/karakuri/

会社概要


[画像3: https://prtimes.jp/i/25663/89/resize/d25663-89-c4664e39745d6083a1ac-2.png ]

カラクリは「カスタマーサポートをエンパワーメントする」をブランドパーパスに掲げ、大規模言語モデル(LLM)のカスタマーサポートへの実用化を目指した事業を展開しています。2018年よりtransformerを用いた言語モデルBERTを、2022年からはGPTを含めた大規模言語モデルの研究を実施。主力ビジネスである高精度 AIチャットボット「KARAKURI chatbot」は、高島屋、SBI 証券、セブン-イレブン・ジャパン、SmartHRなど各業界のトップランナーに選ばれつづけています。2018年のICC サミット「スタートアップ・カタパルト」に入賞、2020年に「Google for Startups Accelerator」に採択、2023年に「AWS LLM 開発支援プログラム」に採択されました。

住所　　　：　〒104-0045　東京都中央区築地2-7-3 Camel 築地 II
設立　　　：　2016年10月3日
代表者　　：　代表取締役CEO　小田 志門
事業内容　：　カスタマーサポート特化型AI「KARAKURI」シリーズの開発・提供・運営など
URL　　　：　https://about.karakuri.ai/

企業プレスリリース詳細へ
PR TIMESトップへ