IBM、AI基盤モデルの最新版「Granite 3.0」を発表

画像提供：マイナビニュース

米IBMは10月21日(現地時間)、年次イベント「TechXchange」で独自のAI基盤モデル「Granite 3.0」のリリースを発表した。GraniteはIBMのフラッグシップの言語モデルとなる。
○「Granite 3.0」の概要

GraniteモデルはApache 2.0ライセンスのもとでリリースし、一般/言語に「Granite 3.0 2B Instruct」「同8B Base」「同2B Base」。ガードレールと安全性では「Granite Guardian 3.0 8B」「同3.0 2B」、混合エキスパートでは「Granite 3.0 3B-A800M Instruct」「同1B-A400M Instruct」「同3B-A800M Base」「同1B-A400M Base」となる。

Granite 3.0 8Bおよび2B言語モデルは、エンタープライズAI向けの主力モデルとして設計されており、検索拡張生成(RAG)、分類、要約、エンティティ抽出、ツール使用などのタスクでパフォーマンスを発揮。企業データで微調整し、多様なビジネス環境やワークフローにシームレスに統合できるように設計されている。

Granite 3.0言語モデルは、Hugging FaceのOpenLLM Leaderboardで定義された標準的な学術ベンチマークにおいて、Granite 3.0 8B Instructモデルの全体的な平均性能は、MetaやMistralの同規模の最先端のオープンソース・モデルを上回っている。AttaQ安全性ベンチマークでは、Granite 3.0 8B Instructモデルは、MetaやMistralのモデルと比較して、測定した安全性のすべての基準で上回っているという。

RAG、ツールの使用、およびサイバーセキュリティ領域のタスクの中核となる企業タスクの全体にわたって、Granite 3.0 8B Instructモデルは、MistralやMetaの同規模のオープンソース・モデルと比較して、平均してトップクラスのパフォーマンスを示している。

日本語を含む12種類の自然言語と116種類のプログラミング言語から収集された12兆トークンのデータを利用して、データ品質、データ選択、学習パラメーターを最適化するために設計された数千の実験結果を活用した新しい2段階学習法を用いて学習。2024年末までに、Granite 3.0 8Bと2B言語モデルは、拡張された128Kのコンテキスト長とマルチモーダル文書理解機能をサポートを予定。