生成AIを手軽に導入できるオンプレミス生成AIパッケージ 『Insight Buddy』をリリースしました
PR TIMES / 2024年4月22日 17時45分
オンプレ生成AI 自社情報を熟知した貴社だけの業務パートナー
[画像1: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-f33f01161d2744d1e1c33ed8c810f3fa-1922x1081.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
オンプレ生成AI 社内情報を熟知した貴社だけの業務パートナー『InsightBuddy』
株式会社 日本AIコンサルティング(大阪府吹田市 代表取締役 香月章宏)は、中小企業をメインターゲットとした、小規模から段階的に導入できるオンプレミス(※1)生成AI導入パッケージ『Insight Buddy』をリリースいたしました。
昨今、生成AI(LLM※2)のビジネス活用に注目が集まり、大企業がぞくぞくと導入と活用を進める中、中小企業以下の組織にとって独自に生成AIを導入することは技術的なハードルも高く、関心は高いものの導入が進んでいません。また、導入にかかるコスト面から、具体的な活用方法を検証するために試験導入をするのにも二の足を踏んでいるというケースも散見されます。そこで、我々はオープンソースのLLM(CodeLlama-34B)をファインチューニング※3によって社内データ活用に特化させ、かつLLMの量子化によって比較的入手のしやすい一般向けのGPUでも動作可能にすることで、コスト面を含めた導入の容易さを実現しました。さらにPoC※4を起点とした、段階的に生成AIを導入、活用いただける導入支援サービスを展開してまいります。価格は158万円~となります。
弊社は、『Insight Buddy』の展開によって、誰もが生成AIを気軽に導入でき、ビジネスパートナーとしてAIが当たり前に存在する社会の実現を目指し、活動してまいります。
[表1: https://prtimes.jp/data/corp/141612/table/1_1_357167338d92a9a04cde9712619a712d.jpg ]
▼『Insight Buddy』の特徴
○中小企業の実態に合わせた柔軟な導入が可能
『Insight Buddy』はオープンソースLLMの活用により、継続的な利用にかかるライセンス費用がかからない環境を構築しました。自社内にシステム部門があり、一定のシステムメンテナンスが可能であれば、利活用におけるランニングコストは不要です。また、LLMのアップデートを含めた運用サポートはチケット制としており、必要な際に追加購入可能なため、状況に応じた柔軟な運用が可能です。
また、ハードウェア面については生成AIの台頭によるGPUのニーズが高まり、価格の高騰や調達リードの延長が続いております。『Insight Buddy』はLLMを量子化することによって、必要な動作環境の軽減を行っており、一般的なデスクトップ向けに販売されているGPUメモリ24GBの環境でも動作可能にし、ハードウェアの調達が比較的容易になっています。企業の状況に合わせた導入・運用に対応可能です。
○RAGによる社内データの効率的な活用
社内データをLLMに追加学習させる場合、膨大な学習時間が必要となりますが、『Insight Buddy』はRAG※5と呼ばれる技術の活用により、LLM自身が随時学習外の情報を検索して回答することで、追加学習の必要なく社内のデータを活用可能となります。さらに、都度の再学習が不要となるため、常に最新の売上データや在庫情報などを活用することができ、日々の状況が経営のカギとなる中小企業にとっては、常に最新の情報をもとにした経営判断ができるという点で最適な環境となりえます。
[画像2: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-cc33ad00a4af8c7e5ed47489e118fc65-1922x1081.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
『RAGのない世界』と『RAGのある世界』の比較
[表2: https://prtimes.jp/data/corp/141612/table/1_2_8637451c97b34d8d98ff05c0181f055d.jpg ]
○オンプレミスゆえの高いセキュリティ
オンプレミスによる生成AIの導入により、LLMの活動を社内に限定することが可能になり、情報管理およびコンプライアンスの面から、外部に発信することが望ましくない情報のやり取りを社内に留めることができます。また、自社のセキュリティポリシーに準じた運用が可能となるため、既存のセキュリティを維持することが可能です。
『Insight Buddy』は社内のサーバー上で動作し、RAGによる参照先も社内データに限定することが可能なため、利用者の回答が社外に発信されることは一切ありません。
[画像3: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-a1d00394f74313cadba1825172d45419-1280x720.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
○導入スケジュール
[画像4: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-99b17a4dd4d5a9ada30d3a13de8f1dfd-543x762.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
『InsightBuddy』導入スケジュール
○価格一覧
PoC期間中
[画像5: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-de7016874d9520c0ce165a24610bc450-1140x574.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
PoC期間中の価格一覧
PoC終了後(保守契約)
[画像6: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-c3a4570e4c65a06e4efd2f5b05f05b64-1135x403.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
PoC終了後の価格一覧
サーバー
稼働確認済みの端末をご案内いたします。
稼働確認済み端末の例
・FRONTIER FRGAG-B760/KD43(NVIDIA RTX4090 24GB)
・DELL PowerEdge R7625 Rack Server(NVIDIA L40S 48GB 2台)
無料オプション
オンプレAKT-Light:業務ログ分析ソフトAKTを3か月間無料でお使いいただけます。
その他サービス
都度工数に応じたお見積りをさせていただきます。
▼今後の展開
ハードウェアメーカーとの連携により、GPUやPC、サーバーの調達を含めた総合的な導入提案を展開する体制を整えており、あらゆる企業が生成AIを活用できる環境を手軽に構築できるようサポートしてまいります。PoCからの導入となり、その後の活用提案、導入コンサルティング、本格導入にかかる費用は内容に応じての見積となります。ただし、PoCで構築した環境はそのまま社内資産として活用し続けていただくことが可能です。
今後は、より企業の生産性・効率性を高められるように、定期的に作成するルーティン資料の自動生成や、定期配信、プログラミング以外の様々な分野の強みを持ったLLMとの連携などの機能拡張を開発、リリースを予定しております。
株式会社 日本AIコンサルティング
大阪府吹田市豊津町 1-31 ヨシタケビル3F
製品ページ:https://j-aic.com/service/insightbuddy
電 話 番 号:06-6369-7870
メールアドレス:insightbuddy@j-aic.com
[画像7: https://prcdn.freetls.fastly.net/release_image/141612/1/141612-1-7772c3ad0b3cd29faaf3bed7636f8894-1920x450.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]株式会社 日本AIコンサルティング
私たちの理念は「楽しめるチームをつくる!」。AIによる「効率的」で「楽しい」チームデザインのソリューションを提供する“チームデザインテック”を展開。人の行動を計測し、分析・評価した結果をチーム設計やマネジメントにフィードバック、生産性、存続可能性の向上を支援。人と時間のInputが減るからこそ、必要な効率的チームデザインと、Outputを高めるための楽しい働き方&挑戦の機会創出をお手伝いします。
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
東北大学言語AI研究センターとカサナレ株式会社が「生成AIを用いたRAGシステムにおけるハルシネーション抑制」に関する共同研究を開始
PR TIMES / 2024年5月2日 13時40分
-
法人/行政向けGPT「ARSGA INSIGHT ENGINE」にClaudeとGeminiを追加した新モデルをリリース
PR TIMES / 2024年5月1日 11時0分
-
Dataikuが、企業全体で生成AIチャットを可能に
PR TIMES / 2024年4月26日 12時45分
-
ギブリー、領域特化型AIサービスの提供を開始。AI×マーケティング領域で、生成AIを活用したカスタマーサービスプラットフォーム「DECA AI接客」をリリース。
PR TIMES / 2024年4月23日 13時0分
-
「ITreview Grid Award 2024 Spring」AIモデル構築部門で最高位である「Leader」を受賞、他2部門で「High Performer」W受賞
PR TIMES / 2024年4月20日 22時40分
ランキング
-
1飲むヨーグルトが「乳酸菌バブル」でジリ貧の理由 市場は逆転寸前、かつての人気を取り戻せるか
東洋経済オンライン / 2024年5月19日 7時20分
-
2東京から新幹線…「新神戸」よりも、一駅先の「西明石」まで買った方がおトク!? JR往復割引「601キロ」のカラクリ
まいどなニュース / 2024年5月19日 8時2分
-
3ローソン、コーヒーなどの「濃さ」選べる仕様に 背景に“客離れ”回避
ITmedia ビジネスオンライン / 2024年5月19日 8時0分
-
4ラーメン屋経営で地獄見たプロレスラーの気づき 川田利明が向き合う「お客様は神様です」の怖さ
東洋経済オンライン / 2024年5月19日 12時30分
-
5都内「自転車が命がけ!」危険スポット5選 「左折車こわっ!」「マジで、ここ進むの…?」
乗りものニュース / 2024年5月19日 8時12分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください