ハイエンドスマホ向け新型SoC「Snapdragon 8 Elite」にみるAI半導体の進化

　レスポンスと低消費電力を両立したい場合、特定機能を担う簡易的なNPUを用意するいう手もある。昨今のSnapdraonシリーズであれば、カメラの画像処理を担うイメージプロセッサ「Spectra」は補助NPU「Sensing Hub」を使って高速かつ低消費電力で画像に関する処理を行っている。

　レスポンスそのものを優先するAI処理なら、処理系統としては最もレスポンスの良いCPUコアでSIMD演算を実行してAI処理を行うというケースも想定している。

　このようにハードウェア全体でベストな実行形態を模索しているのがSnapdragonといえるだろう。

　ただ、実際のところ、スマホのようなモバイル端末にとって、LLMのような処理はまだまだ“重量級”というのが実情のようだ。

　Snapdragon 8 Eliteを搭載したリファレンスデザイン（QRD）のスマホで「Qwen2.5-14B」（※1）が稼働するデモを見たのだが、度重なるデモと周囲の外気温の暑さでサーマルスロットリングがかかったのか、応答が返って来るまでに数十秒程度待たされた。本来は「数秒」を想定したようだが、それよりも大幅に時間を要していた。

（※1）説明員は「Llama」が動いていると言っていたが、画面にはQwen2.5-14Bが表示されていた

　NPUを活用したとしても、ハイエンドスマホでハイエンドモバイルゲームを高FPSで動かした時と同じくらいに発熱している状況なので、「優秀なAIエージェントを常にスマホでで動作させておく」というのは、もう少し先の未来の話なのかもしれない。