「Intel Gaudi 3」正式発表 - NVIDIA H100比で最大1.7倍高速、600W消費のPCIeカード型モデルも

画像提供：マイナビニュース

米Intelは4月9日（現地時間）、イベント「Vision 2024」を開催し、その中でAIアクセラレーターの最新モデル「Gaudi 3」を発表した。空冷モデルは2024年第3四半期、液冷モデルは2024年第4四半期の量産開始が予定されている。

Intelの推論向けアクセラレーターとしては「Gaudi 2」の後継モデルにあたる製品。第5世代Tensor Processorを64基搭載し、Matrix Math Engineを8基統合、128GBのHBM2eメモリを組み合わせて3.7TB/sのメモリ間帯域を実現する。

製品ラインナップにはアクセラレーターカードである「HL-325L」、これを8基組み合わせたユニバーサルベースボード「HLB-325」、PCIeスロットを用いて利用できる「HL-338」を用意。このうちOAM仕様のHL-325Lでは、最大1,835 TFLOPS（fp8）の推論性能を実現。効率でもNVIDIA H100等の競合製品より優れているとする。
（原修一郎）