Zen 5 CCDとX870とRyzen AI、AMDのCOMPUTEX講演にいくつかの補足情報

またRyzen AIに搭載されるBlock FP16だが、「これはもともとOCPで決めた仕様で、ただしSiliconに実装したのはRyzen AIが最初だ」(Ni氏)とのこと。どうもOCPの"OCP Microscaling Formats (MX) Specification"に定められたMXFP8の事を指しているらしい。MXFP8はE5M2とE4M3の2種類のフォーマットが定義されており、どちらを採用しているかは不明ながら、これだとデータサイズは8bitになるのでなるほどINT8と同じ速度で動作することになる。つまりINT8とFP16を切り替えるのではなく、FP8で演算を行うことで精度を担保しつつ速度を得た、という話であった。なるほどQuantizationが必要ない訳である。

ちなみにRyzen AIの元になったVersal AI Edge Gen2のAI EngineではMX6とかMX9のサポートもあるが、Ni氏によれば技術的には動作するが、アプリケーション(この場合でいえばCopilot+とかDirectML、ONNXなど)側のサポートが必要になるので、Ryzen AIではサポートしないとのこと。またそもそもRyzen 7040→8040で10TOPSから16TOPSと60%もの性能向上を果たしているわけで、「つまりNPUには60%位のHeadroomがあるので、Ryzen AI 300も必要なら80TOPS位まで性能を上げられる？」と確認したところ、技術的には不可能ではないが、そんなことをしなくても十分高速だという返事が返ってきた。まぁRyzen 7040→8040は動作周波数を引き上げての対応であり、Ryzen AI 300のAI Engineが同じだけ動作周波数を上げられるか？ というとちょっと怪しいのだが。

ということで現状判明したのはこの程度である。より深い話は7月に開催されるTech Dayで公開される模様だ。それまでの間、しばしお待ちいただきたい。
（大原雄介）