インテルがP-core搭載「Xeon 6」と「Gaudi 3」を正式発表 - AI開発効率化に貢献へ

なお小林氏は、Gaudi 3が強みとする点として推論スループットの高さとコストパフォーマンスを挙げており、その大きな要因には、行列乗算エンジン(MME)とTensorプロセシングコア(TPC)の存在があるとする。MMEについては、256×256という大規模なシストリック・アレイを内蔵する点が最大の特徴とし、AIワークロードで必要となる巨大サイズの行列演算を1度で行えるため、従来は演算を分割していたために生じていたデータ転送が削減され、計算効率が向上したという。またベクトル演算を実行するTPCは4つ独立して配置されており、並列して演算を行うためさらなる効率化が実現されたとしている。

加えてGaudiによる演算の特徴として、パイプラインを使用した演算の並列化も挙げられた。通常は大規模な演算を行う場合、MMEが行った行列演算の結果がキャッシュに書き込まれるが、容量の関係で書き込み切れなかったデータはHBMに記録されるため、データの伝送が生じてレイテンシが大きくなるという問題が生じる。これを避けるためGaudiでは、「グラフ・コンパイラ」により演算処理を小規模なスライスに分割し、キャッシュの空き容量に収まるサイズでそれぞれ並列して処理を実行。これによりレイテンシが低減されるとともに、演算スループットも向上するといい、これがGaudiの演算性能が高い主要因だと説明された。

小林氏によれば、LlaMAをはじめとするさまざまなモデルとフレームワークに対応。またクラウド上でGaudiプラットフォームを体験可能な「インテル Tiber デベロッパー・クラウド」についても言及し、2024年第4四半期には顧客を限定してGaudi 3の機能を提供開始するとのことで、一般提供の開始は2025年を予定していると語った。さらに、Gaudi 3を搭載したシステムについては、DELL・HPE・SuperMicroより2024年第4四半期に一般提供が開始されるとした。

○両製品の融合で企業のAIパフォーマンス最大化に貢献

インテル 執行役員 技術本部長の町田奈穂氏は、Xeon 6を「エンタープライズワークロードおよびAIワークロードに適した汎用CPUであり、AIアクセラレータを束ねるホストCPUとしても最適な製品」、Gaudi 3を「エンタープライズ環境においてAIワークロードのパフォーマンスを最大限に引き出すAIアクセラレータ」と表現。そして両者を組み合わせることで、「顧客のインフラストラクチャに対して強力なAIソリューションをシームレスに統合させることを可能にする」と語った。

またこれらのエンタープライズ向け製品ラインナップについては、今後もパートナー企業との協業を重視していくとしたうえで、「オープンソースのフレームワークやライブラリ、ツールを最適化することで、顧客がAIを合理的かつ効率的に導入できるよう支援を続けていく」としている。
（鶴海大輔）