Intelが「Lunar Lake」「Xeon 6」「Gaudi 3」をアンベール、AI Everywhereの要 - COMPUTEX TAIPEI 2024

Xeon 6 Eは、高いコア密度ならびに物理コア数の多さと、電力比性能が特徴。高密度でスケールアウト型のワークロードに適しているとされる。性能は、2th Gen Xeon Scalableと比べると、同等性能ならラック数を1/3にでき、最大4.2倍のラックレベルの性能向上、最大2.6倍のワット当たり性能向上が可能とされる。

Gaudi 3 - NVIDIA H100を強く意識した性能と価格のターゲット

NVIDIAの独走を各社が必至に追うデータセンター向けAIアクセラレーターで、Intelが今年中の市場投入を発表している次期製品が「Gaudi 3」。今回は、このGaudi 3のAIキットの価格が発表された。

Gaudi 3は第5世代Tensor Processorを64基搭載し、Matrix Math Engineを8基統合、128GBのHBM2eメモリを組み合わせて3.7TB/sのメモリ間帯域を実現する。製造にはTSMCの5nmプロセスを使っている。従来の「Gaudi 2」比だと、FP8で2倍、BF16で4倍のAI演算処理性能を提供するほか、ネットワーク帯域幅を2倍、メモリ帯域幅は1.5倍に拡大している。

製品の提供形態はOAM(Open Accelerator Module)、OAMを8基搭載したユニバーサル・ベースボード、PCI Express(PCIe)カードの3種類を用意している。ほかOAMの冷却ユニットには空冷と液冷のオプションがある。

そして価格だが、Gaudi 3アクセラレーター×8基のユニバーサル・ベースボードキットで125,000ドル。これは「推定で、競合の同等プラットフォームの2/3のコスト」という。

この「競合」というのはNVIDIA H100と見られる。Gaudi 3は、主要な生成AIモデルのトレーニングと推論タスクで、同サイズのH100 GPUクラスタと比較した性能テストを実施し、優位な結果を得られたとアピール。一般的なLLMを実行した場合、対H100に平均で2倍高速だったと説明している。

同社の発表では、「Gaudiアーキテクチャは、大規模言語モデル(LLM)の学習と推論のため、NVIDIA H100に代わるMLPerfベンチマーク済みの唯一の選択肢。顧客が必要な生成AIの性能を、より低いコストで迅速に導入できるのがGaudiだ」と、名指しもしている。

なお、Gaudi 2の価格は、Gaudi 2アクセラレータ×8基のユニバーサル・ベースボードキットで65,000ドル。これは「競合の1/3のコスト」だそうだ。

あわせて今回、Gaudiのシステム・プロバイダーとして、既存のDell、Hewlett-Packard、Lenovo、Supermicroに加えて、新たにAsus、Foxconn、Gigabyte、Inventec、Quanta、Wistronの6社が加わったことも発表された。
（笠原光）