AIネットワークについて知っておくべき5つのこと

画像提供：マイナビニュース

もし、自社の組織にデータ・センターがあるなら、近いうちにAIテクノロジーが導入される可能性が高いでしょう。

AIシステムがチャットボットになるのか、複数のシステムにまたがるプロセスの自動化を提供するものか、大規模なデータセットの分析を可能にするのかにかかわらず、この新しいテクノロジーが多くの企業のビジネスを加速し、改善することが期待できます。とはいえ、AIは混乱を招き、誤解されやすい概念でもあります。本稿では、AIネットワークの仕組みと、AIテクノロジーが直面する課題について、知っておくべき5つの基本的な事柄を説明します。
1. GPUはAIコンピューターの頭脳

一言でいうと、AIコンピューターの頭脳はグラフィック処理装置(GPU)です。かつて、中央演算処理装置(CPU)がコンピューターの頭脳だと聞いたことがあるかもしれません。

GPUの利点は演算が得意なCPUであることです。AIコンピューターやディープラーニングモデルの構築には、「トレーニング」が必要であり、数十億ものパラメーターを含む数学的行列を解かなければなりません。この計算を最も速く行うには、GPUのグループを同じワークロードで動作させている必要があります。それでも、AIモデルのトレーニングには数週間から数カ月かかることもあります。AIモデルが構築されると、フロントエンドのコンピューター・システムに移されます。ユーザーはAIモデルに質問できるようなり、これを推論と呼んでいます。
2. AIコンピュータには多数のGPUが搭載

AIワークロードを解決する最適なアーキテクチャは、ラック内のGPUグループをラック上部にあるスイッチに接続することです。ネットワーク階層に接続されたGPUの追加ラックを設けることこともできます。解決する問題が複雑になるにつれて、GPUクラスターを含む何千ものGPUを実装する必要性も高まります。コンピューターラックが何列も並んでいる一般的なデータセンターを思い浮かべてください。
3. AIクラスターは小さなネットワーク

AIクラスターを構築する場合、GPUを接続して連携させる必要があります。この接続は、GPUが相互にデータを送受信できるようにする小型コンピューター・ネットワークを構築することで実現できます。

図1はAIクラスターを示しており、一番下の円はGPUで実行されるワークフローを表しています。GPUはトップ・オブ・ラック(ToR)スイッチに接続されています。ToRスイッチは、図の上部にあるネットワーク・スパイン・スイッチにも接続しており、多数のGPUを使用する場合に必要なネットワーク階層を示しています。
4. AI導入のボトルネックはネットワーク