ハイエンドスマホ向け新型SoC「Snapdragon 8 Elite」にみるAI半導体の進化

　例えば精度がより失われる「INT2」演算は、自動車の自動運転の世界には適用できない。ADAS（先進運転支援システム）では精度の高さが非常に重要で、これが失われるのは大きな問題となるからだ。　したがって、低精度演算は消費者向けのIoTデバイスやスマホにおける画質向上で使うなど、領域によって（演算精度は）使い分ける必要がある。

　少し言い換えると、ハードウェアやソフトウェアスタックの構成はターゲットとする市場を見極めて設定されるべきということだ。現在、Qualcommは車載デバイス方面での活動も盛んに行っている。当然、ターゲット市場搭載されるハードウェアの構成も変更されることになる。「One size fits all」（1種類で全てをまかなえる）という状況にはなり得ない、という話だ。

●Snapdraonシリーズにおける「AIハードウェア」の実際

　先述の通り、スマホ向けCPU／SoCのNPUでは、大量のMAC演算を高速かつ低消費電力で実行できるかが重要になってくる。個々の計算そのものには依存性はないため、並列処理をいかに効率化できるかが重要となる。

　同様の処理はGPUでも可能で、元々は深層学習と推論の実行はどちらもGPUが得意とする領域だった。それは現在も変わらない。しかし、GPUとNPUを比べると低消費電力時における効率性において、最も大きな違いがデル。

　他方、こうした大量の並列演算はCPUでも「SIMD演算」の形で命令系統に組み込まれている。代表的なものがIntelのCPUにおける「MMX（Multimedia Extensions）」や「SSE（Streaming SIMD Extensions）」だ。場合によっては、CPUがAIにまつわる演算を担うことが考えられる。

　Snapdragonシリーズでも、CPUコアの「Oryon」、GPUコアの「Adreno」、そしてNPUコアのHexagonがAI処理を“分担”している。

　例えば、従来からある「コンピュータビジョン」のような画像認識の世界では、Transformerモデルは利用されず、実行に最適な演算ユニットも異なる。またNPUは精度を犠牲にしてスピードと実行効率を重視する傾向にあるため、ADASのようにユースケースには不向きだ（この場合GPUの利用が好まれる）。この他、AI処理としては軽いものの、レスポンス（応答速度）を最優先するユースケースもある。