ELYZA、Llama 3.1ベースの日本語モデルを開発
PR TIMES / 2024年10月25日 12時45分
デモの基盤モデルを更新
[画像1: https://prcdn.freetls.fastly.net/release_image/47565/52/47565-52-03b3b5a019f4223e61abbc8b59bf39c6-1200x630.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
大規模言語モデルの社会実装を進める株式会社ELYZA(代表取締役:曽根岡侑也、以下ELYZA)は、ELYZAが提供する大規模言語モデル「ELYZA LLM for JP」シリーズの最新モデルとして、Meta社の「Llama 3.1」をベースとした700億パラメータの「Llama-3.1-ELYZA-JP-70B」を開発しました。合わせて、従前から公開していた「ELYZA LLM for JP|デモ版」の基盤モデルを本モデルに差し替えています。
ELYZA LLM for JP|デモ版
※アクセス過多によりリクエストが処理されるまで待ち時間が発生することがあります。
「Llama-3.1-ELYZA-JP-70B」は、安全なAPIサービスや共同開発プロジェクトなどを通して、様々な形態で、順次企業向けに提供を開始していきます。
ELYZAはこれらのモデルの公開・提供を通じて、国内におけるLLMの社会実装の推進、並びにLLMの研究開発の発展を支援してまいります。
■「Llama-3.1-ELYZA-JP-70B」の概要
「Llama-3.1-ELYZA-JP-70B」は、Meta社の「Llama-3.1-70B」をベースに追加の学習(日本語追加事前学習・指示学習)を実施して開発したモデルです。
本モデルは、日本語による追加学習を行うことで、元の「Llama-3.1-70B」から大きく日本語性能を向上させています。また、前回の「Llama-3-ELYZA-JP-70B」からは、ベースモデルを「Llama-3.1」に差し替えたことにより、長文の処理が可能になったことに加え、日本語での事後学習プロセスを見直すことにより、指示追従能力を改善しています。
■「ELYZA LLM for JP」シリーズについて
[画像2: https://prcdn.freetls.fastly.net/release_image/47565/52/47565-52-fe71cf42324512e705ef8fb5844ba2fa-1274x636.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
「ELYZA LLM for JP」は、ELYZAが提供する大規模言語モデル群の総称です。グローバルモデル以外の新たな選択肢として、主にセキュリティやカスタマイズ性を重視する企業、自社サービスや事業にLLMを組み込みたい企業に向けて、安全なAPIサービスや共同開発プロジェクトなど様々な形態で順次提供を開始していきます。
今回公開した「Llama-3.1-ELYZA-JP-70B」は、「ELYZA LLM for JP」シリーズの最新モデルとなります。
ELYZA LLM for JP|デモ版
※アクセス過多によりリクエストが処理されるまで待ち時間が発生することがあります。
■今後の展望
ELYZAは「ELYZA-japanese-Llama-2-7b」から継続して「Llama」シリーズの日本語化に取り組んでいます。今後も「Llama」シリーズでの取り組みに限らず、海外のオープンなモデルの日本語化や、独自のLLMの開発に継続して投資をしていきます。これらのモデルの公開・提供を通じて、国内における LLM の社会実装の推進、並びに LLM の研究開発の発展を支援してまいります。
■ELYZA会社概要
株式会社ELYZAは「未踏の領域で、あたりまえを創る」という理念のもと、日本語の大規模言語モデルに焦点を当て、企業との共同研究やクラウドサービスの開発を行なっております。先端技術の研究開発とコンサルティングによって、企業成長に貢献する形で大規模言語モデルの導入実装を推進します。
所在地 :〒113-0033 東京都文京区本郷3-15-9 SWTビル 6F
設 立 :2018年9月
代表者 :代表取締役 曽根岡 侑也
事業内容:AI リサーチ&ソリューション 事業・AI SaaS 事業
企業URL:https://elyza.ai/
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
『AIの未来を語る-ELYZA代表 曽根岡 侑也 × LYZON代表 藤田 健による生成AI対談』を11月15日に公開
PR TIMES / 2024年11月15日 16時45分
-
SB Intuitions、4000億クラスのパラメータを持つ日本語LLMを公開
マイナビニュース / 2024年11月12日 10時39分
-
Meta、「Llama」を「国家防衛のために米政府機関に提供している」
ITmedia NEWS / 2024年11月5日 8時33分
-
押さえておきたいLLM用語の基礎解説 第3回 学習率・事前学習・クリーニング・ファインチューニング・インストラクションチューニング・プレファレンスチューニング
マイナビニュース / 2024年10月29日 9時0分
-
企業の膨大な内部データを学習可能とした独自大規模言語モデル(LLM)の開発に成功
PR TIMES / 2024年10月24日 13時15分
ランキング
-
1三菱UFJ銀行の貸金庫から十数億円抜き取り、管理職だった行員を懲戒解雇…60人分の資産から
読売新聞 / 2024年11月22日 21時35分
-
2「築浅のマイホームの床が突然抜け落ちた」間違った断熱で壁内と床下をボロボロに腐らせた驚きの正体
プレジデントオンライン / 2024年11月22日 17時15分
-
3【独自】船井電機前社長『不正を働いたことはない』 “破産の申し立て”は報道で知る「本当に驚いた。なんでこんなことに…」
MBSニュース / 2024年11月22日 18時20分
-
4物価高に対応、能登復興支援=39兆円規模、「103万円」見直しも―石破首相「高付加価値を創出」・経済対策決定
時事通信 / 2024年11月22日 19時47分
-
5相鉄かしわ台駅、地元民は知っている「2つの顔」 東口はホームから300m以上ある通路の先に駅舎
東洋経済オンライン / 2024年11月22日 6時30分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください