Meta、無料で商用可の「Llama 3.1」リリース 「世界最大かつ最も高性能なオープンモデル」
ITmedia NEWS / 2024年7月24日 7時6分
競合モデルとのベンチマーク比較(画像:Meta)
米Metaは7月24日(現地時間)、“オープンソースの”LLMの最新版「Llama 3.1」を発表した。最大モデルは4050億(405B)のパラメータを持ち、米NVIDIAの1万6000個以上の「H100」でトレーニングした。Llama 3の70Bモデルと8Bモデルもアップグレードされる。
4月にリリースした「Llama 3」同様に、ほぼすべての主要クラウドサービス(AWS、Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft Azure、NVIDIA NIM、Snowflake)で利用可能になる。
15兆トークンを超えるトレーニングデータでトレーニングしたとしているが、データの出所は明示していない。
405Bモデルは、長文テキストの要約、多言語会話エージェント、コーディングアシスタント、将来のAI言語モデルのトレーニングに使用する合成データの作成に有用としている。また、Llama 3.1の出力を使用して他のAIモデルを改善できる。
Metaによると、Llama 3.1は複数のベンチマークで米OpenAIの「GPT-4o」や米Anthropicの「Claude 3.5 Sonnet」より優れているという。
同社のAIアシスタント「Meta AI」(日本でのリリースはまだ)もLlama 3.1ベースになる。これにより、サポート言語が22カ国語に増え(日本語はまだ)、人物写真から画像を生成する機能などが追加される。
マーク・ザッカーバーグCEOは公式ブログで、この高性能なAIモデルを無料で提供する理由について、オープンソースのLinuxが現在、スマートフォンやサーバのベースOSになったのと同様に、オープンソースのAIモデルはプロプライエタリモデルを抜いて進歩していくと語った。「Llama 3.1のリリースは、ほとんどの開発者がオープンソースを使い始める業界の転回点になるだろう」(ザッカーバーグ氏)
Metaによると、Llama 3.1をAWSなどの環境で実行するために掛かるコストは、GPT-4oの約半分という。
ザッカーバーグ氏は「オープンソース」という言葉を使っているが、Open Source Initiativeが定義する「オープンソース」とは異なる。Llama 3.1はMetaのWebサイトやHugging Faceからダウンロードできるが、いずれの場合もダウンロードに際して個人情報の提供と、ライセンスおよび利用規定への同意が必要だ。
外部リンク
この記事に関連するニュース
-
Llama 3.1発表、4050億パラメータの最先端モデル公開「オープンソースAIを主流に」
マイナビニュース / 2024年7月24日 7時22分
-
「Phi-3」「Llama-3」「GPT-4o mini」などの小規模言語モデルを使用して生成AIの回答精度を向上させる「SLMファインチューニング」カスタムサービスを開始
PR TIMES / 2024年7月23日 18時15分
-
Meta、コード最適化のためのAIモデル「LLM Compiler」を商用ライセンスで公開
ITmedia NEWS / 2024年6月28日 14時50分
-
Google、オープンな生成AIモデル「Gemma 2」リリース 270億パラメータモデル追加
ITmedia NEWS / 2024年6月28日 9時33分
-
Google、オープンLLM「Gemma 2」公開、2倍以上のサイズのモデルに匹敵する効率性
マイナビニュース / 2024年6月28日 9時22分
ランキング
-
1“高難易度ゲーム”でやられるたびに鶴を折ったら…… 特殊なチャレンジの結果が壮絶にして壮観
ねとらぼ / 2024年7月23日 20時0分
-
2知って納得、ケータイ業界の"なぜ" 第173回 総務省が打ち出す1万5000円の値引き緩和ではミリ波対応スマホが到底普及しない理由
マイナビニュース / 2024年7月23日 17時56分
-
3「これではだめなんでしょうか?」うずらの卵在庫山積み問題にアイドルがド正論 賛同の声続々「本当にそう思う」「それでいいはずだよ」
ねとらぼ / 2024年7月23日 21時31分
-
4プロが本気で“アンパンマンの塗り絵”をしたら…… 衝撃の仕上がりが360万再生「凄すぎて笑うしかないww」「チーズが、、、」
ねとらぼ / 2024年7月18日 22時0分
-
5ハイスタ難波、父の容体急変「突然体が動かなくなって」 昨年逝去の「母の元へ行ってあげていいとも」
ねとらぼ / 2024年7月23日 19時29分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください