AIプロセッサー「GAUDI 2」と「GRECO」が年内に登場予定　インテルCPUロードマップ

ASCII.jp / 2022年9月26日 12時0分

　今月、インテルはイスラエルでIntel Tech Tour.ilと題したTech Dayを開催した。なぜイスラエルか？　というと、実は間もなく詳細が公開されるRaptor Lakeの設計と製造はイスラエルが主導しており、それもあってキーパーソンインタビューやDeep Diveなども開催されたのだが、このあたりの詳細はまた回を改めてお届けする。

　イスラエルと言えば、インテルが買収したMobileyeやHabana Labsなども全部イスラエルの企業であり、それもあって今回のTech DayではHabana Labsによる製品アップデートも説明があった。

　Habana Labsの話は連載575回で紹介したが、この時はGAUDIとGOYAという、同社にとって第1世代の製品の説明に留まった。ただ同社(というのか、同部門というのか)はこれに続いて第2世代製品をすでに出荷しているので、このあたりを中心に説明したい。

クライアント向けにVPUを導入

　Habana Labsの話を中心に、と書きながら最初はクライアント側の話である。インテルはIce Lake世代でGNAと呼ばれるAIアクセラレーターを導入したが、これは連載665回で説明したように、非常に限られた用途向けのもので、汎用というには性能的に不十分なものだった。その一方で、クライアントではさまざまなところでAIを利用しよう、という機運が急速に高まりつつあるとする。

AIをクライアントで利用していく。ただゲームとContents Creation(それこそAdobeのSensei)とProductivity(例えばMicrosoft OfficeのAIを利用したアシスタント機能)は、全部バラバラにAIフレームワークを実装して利用しているわけで、これらが統合されるまでには時間がかかりそうではある

　これに向けて、インテルとしてもクライアント向けに本腰を入れてAIを実装していこう、としている。具体的には、クライアントにもVPUを標準で導入する、というのが今回の大きな発表である。

クライアント向けにAIを実装するというのは、ソフトウェア側から見ての話である。それにしても、発表だけはしたもののまだ製品の出ていないIntel XMXやXeSSまでしれっと「実現したもの」リストに入れてあるのはどうだろう？

　VPUはVision Processing Unitの略で、インテルが買収したMovidiusのMyriadシリーズのアクセラレーターに採用されている名称だが、これを全面的にクライアントに導入することを正式に発表した。

クライアントにもVPUを標準で導入する。VPUは映像に特化しており、ISPなども内蔵して映像処理に非常に便利な作りではあるが、別にISPを通さなくても利用できるので、このあたりで手頃だったということだろう

　まずRaptor Lake世代が最初の導入プラットフォームになる。そしてMeteor LakeではこれがCPU側に統合されることが明確にされた。

Meteor Lakeでは“Processor Integration”とされるが、それが現状のMyriad Xベースのものなのか、これの後継製品ベースなのかはまだ未公開だ

　もともと今年2月に開催されたInvestor Meetingの際に、Raptor Lakeには“AI M.2 Module”なるものが追加されると明らかにされていた。

　連載657回でも「現時点で一番可能性が高いのはこのMyriad X VPUベースということになる」と書いたが、上の画像でMicrosoft(おそらくWindows MLのVPU対応をするのだろう)のほかにDell/HP/Lenovo/Acerのロゴがあるのは、この4社から投入されるRaptor Lakeベースのクライアント機には、Myriad X VPUを搭載したM.2 Moduleが搭載されると考えていいだろう。

　実際にさまざまなアプリケーションがVPU対応になるのはまだまだ先のことであろうが、AMDもZen 5世代でXNAという名称で旧XilinxのAI Engineを搭載することを発表しており、クライアントにAIアクセラレーターが標準搭載される日が近づいたことになる。もっともスマートフォン向けのSoCではもうNPU(Neural Processing Unit)を標準搭載するのが当たり前の昨今からすると、むしろ動きが遅いともいえるが。

GAUDI 2は管理維持の経費削減に効果大

　今年5月に行なわれたIntel Vision 2022で、インテルはGAUDI 2を初公開した。といっても詳細はあまり明らかになっておらず、唯一示されたのはNVIDIAのA100と比較して約2倍のスループットを実現できるということだけだった。

GAUDI 2のOAMを示すSandra L. Rivera氏(EVP&GM, Datacenter and AI Group)

比較はNVIDIAのA100なのだが、問題はすでにA100の3倍高速なH100が発表されていることである

　A100の2倍というのは新製品としては全然十分ではない(H100の3分の2の性能ということになる)わけだが、ここでHabana Labsはおもしろい見解を出してきた。

　昨今のデータセンターでは、ディープラーニングに要するコストがどんどん上がっているとする。理由はより複雑なモデルと繰り返し回数の増加、アプリケーション利用の広がりなどだ。

単に性能を上げるだけでは不十分で、例えば最後の“rebuild daily or hourly”(ネットワークの組み換えやアプリケーションの変更を毎日あるいは毎時行なう)が26%もあると、これに要する手間とコスト(特に人手)がバカにならない

　ところが、GAUDI 2はディープラーニングに要するコストの削減に大きな効果がある、というのがHabana Labsの主張である。要するに絶対性能だけでなく、TCOの削減に効果が大きいとしたわけだ。

動作周波数そのものは発表されていないが、同一周波数ではTPCの数が3倍＋FP8のサポートで、ピーク性能は6倍くらいに引きあがっていそうである

　GAUDI 2そのものはプロセスの微細化と処理エンジン強化(3倍)、メモリーの容量増加と高速化、ネットワーク強化(100G×10→100G×24)と、猛烈に内部構造を強化したGAUDIといった形になっている。その内部構造が下の画像だ。

GAUDI 2の内部構造。Media Engineを利用することで、静止画や動画をCPUの介在なく直接取り込んで処理が可能になる(GAUDIではCPUで展開してビットマップの形で送り込んでやる必要があった)

　TPC(Tensor Processing Cores)が3倍に増やされた以外に、新たにMME(Matrix Multiplication Engine)が2つ追加されている。またHEVC/H.264/VP9/JPEGなどのデコードが可能なMedia Engineも新たに追加された。

　ちなみに図には出ていないが、初代GAUDIでは24MBの共有SRAMが搭載されており、これを利用して送受信やTPC間でのデータ共有などを行なっていたが、GAUDI 2ではこれも48MBに増やされている。

　GAUDI2が他のAIアクセラレーターと異なることの1つは、マルチチップ構成でのインターコネクトである。制御そのものはホスト(Ice Lake-SPサーバーをここでは念頭に置いている)からPCIeレーンでつながるが、カード同士は100GbEで接続する、という独特の構成である。

相互接続用の21本の100GbE上のプロトコルは未公開である。少なくともTCP/IPではないだろう

　なにせ1つのGAUDIから24本の100GbEが取り出せるので、そのうち3本はネットワーク接続用に回すとして、残り21本は丸々余っている。これを300GbE×7構成にして、GAUDI 2同士の相互接続に使う、という構成である。下手な独自インターコネクトを作るより、100GbEを流用した方が効率的と考えたのだろう。

　さてGAUDI 2の性能であるが、これはIntel Innovationで示されたものと大差ない。