【Gaudiシリーズを解説】生成AIに対し、広がる選択肢―Fugaku-LLMも快適に動作

具体的な利用例として、画像生成のStable Diffusionシリーズで有名なStability.AIはNVIDIAと比較したうえで性能に優れたGaudi2を採用。Gaudi向けのコード変更に関しても一日以内で完了したと説明した。

また、SupermicroのGaudi2 AI Tranig ServerSYS-820GH-TNR2-01は1サーバーに8枚のGaudi2とホストCPUの第三世代Xeon SPを使用したシステムが現在、期間限定で$90000の特別価格で購入できるようになっていることを紹介していた。

○さらに進化を遂げたGaudi3の紹介も

さらに小佐原氏は、今回のイベント直前のCOMPUTEXで紹介されたGaudi3についても言及した。Gaudi2は7nmプロセスで製造されているが、Gaudi3では製造プロセスを5nmにまで進化させ、演算に関してもFP8は2倍、BF16は4倍とAI処理能力を増強。ネットワークを100GbEから200GbEにすることで速度も2倍、そしてメモリ帯域を1.5倍と増強。価格は上昇したもののコスパは堅持しているという。

開発環境も同一なため、Gaudi2上で開発テストを行い、Gaudi3が販売されてから本番実行を行うという使い方ができると小佐原氏はアピールしていた。

Gaudi3は現在サンプル提供が開始されており、今年後半から量産出荷される予定となっているという。また、OAM（Open Accelerator Module）以外にPCIeカード形状の提供も予定されている。

システム販売にはGaudi2の時点でのDELL、HPE、Lenovo、SuperMicroに、Asus、Foxconn、Gigabyte、Inventec、Quanta、Wistronも加わる。

○既存コードから2ステップの手順でGaudiを利用可能。GitHubには検証済の参照モデルを公開

後半はGaudiを使うための説明となった。小佐原氏は「Gaudiは特殊な製品でプログラミングも特殊と思われがちだが違う」と説明。いくつかのシチュエーションで紹介した。

現在よく使用されているPyTorchをGPUで動作するアプリケーションからの移行の場合、手動で変更するためには結構な量の作業が必要となる。しかし、GPU Migrationツールを使用するとライブラリのインポートと学習ループ部のコード変更だけでGaudiを利用することができる。
またインテルは、20以上の参照モデルを検証してGitHubにて公開しており、このGitHubの検証例をベースとしてあらたなアプリケーションを開発することもできる。