オルツ、数兆パラメータ規模の大規模言語モデル構築に着手
共同通信PRワイヤー / 2024年4月26日 15時0分
*データ数を半分以上削ったとしても、削った後のクリーンなデータの方が効果的であることを示す論文参考:https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/A3-2.pdf
③計算量
ー計算資源の枯渇と高コストという大きな課題に直面しています。特にエンタープライズ向けGPUの不足とクラウドリソースの価格高騰が課題で、これらの問題を解決するために、我々は分散コンピューティング基盤を活用し、世界中のGPU資源を効率的に利用することを目指しています(EMETHプロジェクト*)。この取り組みは、計算資源の流動性を改善し、誰もが簡単に高度なAI技術を利用できる世界を実現することを目標としています。
*オルツの分散コンピューティング基盤EMETプロジェクト参考:Alt EMETH — Super High Speed Distributed Computating Platform
<当社の目指すLLMの方向性~意外と見過ごされるスピードとコストの重要性~>
LLMの開発では、モデルのパラメータ数を増やすことで精度や表現力が向上することは確かですが、それだけでは実用性に欠ける場合があります。例えば、1プロンプトに対して30分もの時間がかかるようなモデルでは、ユーザー体験が損なわれ、実際には誰も利用しないので、リアルタイムでの反応速度が求められています。また、1プロンプトあたり1万円もかかるようなモデルでは誰も利用しません。
サービスとしての反応速度を実用的なレベルに保つには、単にLLMの処理能力を高めるだけでは不十分であり、ハードウェアレベルでの最適化、例えばLLM特化チップの採用などが必要になります。さらに、APIとしての高速化アーキテクチャの構築、通信技術基盤、分散化技術を用いた可用性の向上など、ソフトウェア面での工夫も欠かせません。
また、ネットワークレイテンシーの問題を克服するためには、クラウドだけでなく、エッジ側(端末側)での処理*を活用した高速化も重要です。これにより、ユーザーの要求に即時に応答できるシステムを構築することが可能となります。
*業界動向”Apple、オンデバイス処理に特化したフランスのAI企業を買収”参考:https://gori.me/apple/apple-news/152746#google_vignette
この記事に関連するニュース
-
オルツ、Stability AIと共同で画像生成AIの新たなユースケースの検討を開始
PR TIMES / 2024年5月8日 14時15分
-
オルツ、Stability AIと共同で画像生成AIの新たなユースケースの検討を開始
共同通信PRワイヤー / 2024年5月8日 11時0分
-
オルツ、数兆パラメータ規模の大規模言語モデル構築に着手
PR TIMES / 2024年4月26日 17時15分
-
オルツが数兆パラメータ規模のLLM構築に着手、実運用に適した性能を追求
マイナビニュース / 2024年4月26日 16時18分
-
オルツ、GNIグループと創薬および投資分野におけるAI活用に関する協業を発表
PR TIMES / 2024年4月25日 16時45分
ランキング
-
1飲むヨーグルトが「乳酸菌バブル」でジリ貧の理由 市場は逆転寸前、かつての人気を取り戻せるか
東洋経済オンライン / 2024年5月19日 7時20分
-
2消えゆく「回転レストラン」…80年代には全国50店→再開発・老朽化で数店舗に
読売新聞 / 2024年5月18日 15時0分
-
3東京から新幹線…「新神戸」よりも、一駅先の「西明石」まで買った方がおトク!? JR往復割引「601キロ」のカラクリ
まいどなニュース / 2024年5月19日 8時2分
-
4「定年コロリ」という言葉も…長年のシフト勤務が〈睡眠の質〉や体に及ぼす影響は?【スタンフォード大教授が解説】
THE GOLD ONLINE(ゴールドオンライン) / 2024年5月18日 17時15分
-
5農林中金が1兆円規模の増資検討…米金利高で外債の含み損拡大、5000億円赤字の見通し
読売新聞 / 2024年5月18日 23時10分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください