ELYZA、Llama 3.1ベースの日本語モデルを開発
PR TIMES / 2024年10月25日 12時45分
デモの基盤モデルを更新
[画像1: https://prcdn.freetls.fastly.net/release_image/47565/52/47565-52-03b3b5a019f4223e61abbc8b59bf39c6-1200x630.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
大規模言語モデルの社会実装を進める株式会社ELYZA(代表取締役:曽根岡侑也、以下ELYZA)は、ELYZAが提供する大規模言語モデル「ELYZA LLM for JP」シリーズの最新モデルとして、Meta社の「Llama 3.1」をベースとした700億パラメータの「Llama-3.1-ELYZA-JP-70B」を開発しました。合わせて、従前から公開していた「ELYZA LLM for JP|デモ版」の基盤モデルを本モデルに差し替えています。
ELYZA LLM for JP|デモ版
※アクセス過多によりリクエストが処理されるまで待ち時間が発生することがあります。
「Llama-3.1-ELYZA-JP-70B」は、安全なAPIサービスや共同開発プロジェクトなどを通して、様々な形態で、順次企業向けに提供を開始していきます。
ELYZAはこれらのモデルの公開・提供を通じて、国内におけるLLMの社会実装の推進、並びにLLMの研究開発の発展を支援してまいります。
■「Llama-3.1-ELYZA-JP-70B」の概要
「Llama-3.1-ELYZA-JP-70B」は、Meta社の「Llama-3.1-70B」をベースに追加の学習(日本語追加事前学習・指示学習)を実施して開発したモデルです。
本モデルは、日本語による追加学習を行うことで、元の「Llama-3.1-70B」から大きく日本語性能を向上させています。また、前回の「Llama-3-ELYZA-JP-70B」からは、ベースモデルを「Llama-3.1」に差し替えたことにより、長文の処理が可能になったことに加え、日本語での事後学習プロセスを見直すことにより、指示追従能力を改善しています。
■「ELYZA LLM for JP」シリーズについて
[画像2: https://prcdn.freetls.fastly.net/release_image/47565/52/47565-52-fe71cf42324512e705ef8fb5844ba2fa-1274x636.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
「ELYZA LLM for JP」は、ELYZAが提供する大規模言語モデル群の総称です。グローバルモデル以外の新たな選択肢として、主にセキュリティやカスタマイズ性を重視する企業、自社サービスや事業にLLMを組み込みたい企業に向けて、安全なAPIサービスや共同開発プロジェクトなど様々な形態で順次提供を開始していきます。
今回公開した「Llama-3.1-ELYZA-JP-70B」は、「ELYZA LLM for JP」シリーズの最新モデルとなります。
ELYZA LLM for JP|デモ版
※アクセス過多によりリクエストが処理されるまで待ち時間が発生することがあります。
■今後の展望
ELYZAは「ELYZA-japanese-Llama-2-7b」から継続して「Llama」シリーズの日本語化に取り組んでいます。今後も「Llama」シリーズでの取り組みに限らず、海外のオープンなモデルの日本語化や、独自のLLMの開発に継続して投資をしていきます。これらのモデルの公開・提供を通じて、国内における LLM の社会実装の推進、並びに LLM の研究開発の発展を支援してまいります。
■ELYZA会社概要
株式会社ELYZAは「未踏の領域で、あたりまえを創る」という理念のもと、日本語の大規模言語モデルに焦点を当て、企業との共同研究やクラウドサービスの開発を行なっております。先端技術の研究開発とコンサルティングによって、企業成長に貢献する形で大規模言語モデルの導入実装を推進します。
所在地 :〒113-0033 東京都文京区本郷3-15-9 SWTビル 6F
設 立 :2018年9月
代表者 :代表取締役 曽根岡 侑也
事業内容:AI リサーチ&ソリューション 事業・AI SaaS 事業
企業URL:https://elyza.ai/
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
押さえておきたいLLM用語の基礎解説 第3回 学習率・事前学習・クリーニング・ファインチューニング・インストラクションチューニング・プレファレンスチューニング
マイナビニュース / 2024年10月29日 9時0分
-
企業の膨大な内部データを学習可能とした独自大規模言語モデル(LLM)の開発に成功
PR TIMES / 2024年10月24日 13時15分
-
IBM、Granite 3.0を発表:ビジネスのために構築された高性能なAIモデル
PR TIMES / 2024年10月23日 16時45分
-
IBM、AI基盤モデルの最新版「Granite 3.0」を発表
マイナビニュース / 2024年10月23日 15時23分
-
【CEATEC 2024】10/18に登壇決定「社会実装の加速に向けたGENIACの今後の取り組み」について
PR TIMES / 2024年10月17日 12時35分
ランキング
-
1為替相場 15日(日本時間 6時)
共同通信 / 2024年11月15日 6時0分
-
2猛暑でスーツ需要低迷、紳士服のコナカが30億円赤字 売り上げ大幅減収 9月中間決算
カナロコ by 神奈川新聞 / 2024年11月14日 22時0分
-
3MUFG、auカブコム証券の完全子会社化を正式発表…新社名は「三菱UFJeスマート証券」
読売新聞 / 2024年11月14日 20時10分
-
4【独自】住民税非課税世帯に3万円検討 子1人2万円上乗せも、物価高で
共同通信 / 2024年11月13日 21時42分
-
5米10月PPI、前年比2.4%上昇に伸び加速 インフレ抑制失速示す
ロイター / 2024年11月15日 4時6分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください