「GeForce RTX 5080」への乗り換えはアリ？ 「GeForce RTX 3080 Ti」搭載PCで試した結果

　やはり順当な「5080＞4080＞3080 Ti」という結果だった。Windows MLという汎用（はんよう）APIを使うことによるオーバーヘッドはさておいて、5080は4080比で1.14～1.21倍、3080 Ti比で1.39～1.53倍のパフォーマンスとなっている。機械学習ベースのAIを使う場合は、やはり「なるべく新しいGPU（グラフィックスカード）」がよさそうである。

AI Image Generation Benchmark（FLUX.1 Beta）

　ProcyonにはStable Diffusionベースの画像生成AIテスト「AI Image Generation Benchmark」もある。しかし、本テストも現時点ではTensorRT APIに対応していない。「ONNX」APIを使えばテスト可能なのだが、今回は時間の都合で見送った。

　その代わり、ULとNVIDIAがβ提供しているFLUX.1ベースのAI Image Generation Benchmarkを実行してみた。このテストは、グラフィックスメモリの容量の都合から3080 Tiでの測定を行っていない。生成完了までの所要時間は以下の通りだ。

・GeForce RTX 5080

・FP4（4bit浮動小数点数演算）：27.968秒

・FP8（8bit浮動小数点数演算）：57.696秒

GeForce RTX 4080

・FP4（4bit浮動小数点数演算）：128.82秒

・FP8（8bit浮動小数点数演算）：66.869秒

　「5080＞4080」なのはもちろんなのだが、FP4の演算で“大差”が付いている。これはGeForce RTX 50シリーズのTensorコアでFP4演算をネイティブサポートした成果である（GeForce RTX 40シリーズではFP8に変換してから演算するためオーバーヘッドが生じてしまう）。

　生成AIにおいて、より高速な処理を行うには「精度をあえて低くする」ことが求められる場合がある。しかし、単に精度を低くしても演算器（ここではTensorコア）が低精度演算に対応していないと精度の変換にリソースを割かれてしまうという“本末転倒”な事態もあり得る。

　その点、GeForce RTX 50シリーズでは低精度演算（FP4）をネイティブサポートしたのは、生成AI時代を踏まえた大きな変化といえる。

●GPUを変えると意外といい！　でも電源が心配