郊外型データセンタ活用・省電力リアルタイムAI分析技術を実証 ～IOWN技術の活用によりリモート拠点上でのAI分析の遅延と消費電力を大幅に削減～

2．実証実験の概要
　本AI分析基盤では、IOWN Global Forum*1で検討されている、APNによる低遅延・ロスレス通信、ならびに、DCIにおけるデータ処理高速化手法を活用しています。これらにより、大規模データの収集に関するオーバヘッドが最小限に抑えられるため、大都市圏内に設置されたセンサからデータを収集し、郊外型データセンタでAI分析することが可能になります（図1）。特に、郊外型データセンタは、大都市圏内に設置されたデータセンタと異なり、再生可能エネルギーを最大限活用できるという利点があります。本実証実験におけるAI分析基盤の特長は、以下の通りです（図2）。

NTTによるAI推論のデータ処理高速化*2：RDMA over APNを用い、センサ設置拠点におけるセンサデータを、郊外型データセンタに設置されたアクセラレータのメモリ上に直接転送します。これにより、従来ネットワークにおけるプロトコル処理のオーバヘッドを大幅に削減します。また、CPUによる制御オーバヘッドを抑えつつ、アクセラレータ内でAI分析処理を完結させることで、その電力効率を改善しています。
Red Hat OpenShift*3による柔軟なワークロードの配備：Kubernetesベースのハイブリッドクラウド向けアプリケーションプラットフォームRed Hat OpenShiftは、GPUといったアクセラレータの複雑性を隠蔽するためのKubernetes Operator*4 の仕組みを備えます。これにより、データ処理高速化が適用されたワークロードを、郊外型データセンタをはじめとする複数サイトに、柔軟かつ容易に配備できるようになります。



[画像1]https://user.pr-automation.jp/simg/2341/83549/700_633_2024021917550265d31766cdaa3.JPG


3．実証実験の結果
　本実証実験では、横須賀市におけるセンサ設置拠点と、武蔵野市における郊外データセンタとをAPNで接続して、AI分析基盤を評価しています（図3）。横須賀市と武蔵野市間の光ファイバの距離は、およそ100kmです。センサとして多くのカメラ接続を模擬した状態で、従来のAI分析処理を適用した結果と比較した結果、本AI分析基盤では、その遅延時間（センサ設置拠点でデータを受信してから郊外型データセンタでAI分析を完了するまでの時間）を、最大で60％削減できること確認しました。また、郊外型データセンタにおいてカメラ毎のAI分析に要する消費電力を、最大で40％削減しました。加えて、本AI分析基盤は、GPUの数を増設することで、CPUボトルネックを生じさせることなく、より多くのカメラを収容できます。その結果、1,000台カメラの収容を想定した見積りにおいて、最大で60%の消費電力の削減が見込まれています。本実証実験は、IOWN Global Forumから、Proof of Concept（PoC）Reference*5に準拠したPoCとして認定されています。また、本実証実験の詳細は、IOWN Global Forumの公式サイトに掲載されているIOWN PoCレポートから確認できます。