【Gaudiシリーズを解説】生成AIに対し、広がる選択肢―Fugaku-LLMも快適に動作

AIではHugging Faceで公開されているコードでの利用も多いが、設定をGaudi向けに置き換えるだけで動作し、現時点で30以上の最適化済モデルが利用可能になっている。

さらにハードウェアを購入しなくても、検証から通常利用まで使用できるインテル Tiber デベロッパークラウドも用意されている。Gaudiだけでなく、インテルの最新製品も、購入せずに確認できる。

ここまでの話を伺う限り、ライバルとなるNVIDIAのCUDAを駆使したアプリケーションに関しては難しいと思うが、オープンソースを活用したアプリケーションならばGaudiでもアプリケーション開発は実用的であるという印象を受けた。性能に関してもベンチマークだけでなく、AIスタートアップ企業が検証した結果Gaudiを利用していることから十分な競争力があると感じる。

今後はGaudiのコスパや入手性だけでなく、広く使える実用例をさらに示すことが、さらなる拡大につながるだろう。

デモブースではGaudi2の実物ボードの展示に加え、Gaudi2を用いた生成AIのデモを実施していた。

Llama3-70Bという巨大モデルもGaudi2で実行できていることと、今年5月10日に公開された「『富岳』を活用した大規模言語モデル分散並列学習手法の開発」の研究成果となる（参考記事）「Fugaku-LLM」が動作していた。

Fugaku-LLM研究成果発表会ではHugging Faceで公開するため、ライセンス条件の範囲で誰でも利用できると説明していたが、発表日にはリアルデモがなかったため、今回のインテルのデモ展示はHugging Faceで公開されているFugaku-LLMの動作する実例として大変参考になった。

一方、COMPUTEXでGaudi3ボードがPat Gelsinger氏によって示され（参考記事）、今回の展示のタイトルもGaudi3となっていたが、デモがGaudi2になっていたのは少々残念だ。ぜひとも実物のGaudi3をこの目で見てみたいと強く感じた。
（小林哲雄）