AIの可能性を再定義するHBM、その構造を理解する

画像提供：マイナビニュース

AIへの関心が高まり、データストレージの需要

高帯域幅メモリ(HBM)が注目を集めています。人工知能(AI)が進化し続けるのに伴い、その需要も増え続けているのです。こうした需要に応えるべく、多くの主要テクノロジー企業がHBMに注力しています。HBMは、低エネルギー消費でより高速なデータアクセスを実現する様に設計された、高度なコンピューターメモリです。これはAIにとって、メモリチップの性能面と消費電力の削減という点で、重要な要素になります。

HBMは3D積層を採用しており、先端パッケージング技術を使用して、複数のデバイス層を垂直に積み重ねます。専用のDRAMチップを垂直に積層して、高速チャンネルで接続することにより、複雑なAIタスクの実行に必要な高速なデータ交換を可能にしています。

生成AIやデータ処理といった新たな成長ドライバーは、まだ導入の初期段階であり、HBMの市場ポテンシャルは今後も堅調に推移すると予想されます。
バンプとTSV

HBMの現行バージョンであるHBM3は、2つの重要な技術により、垂直方向に積層された集積回路(ダイとも呼ばれる)の数を増やし、メモリ容量とパフォーマンス能力を高めます。1つはマイクロバンプ技術で、ダイの上に形成される小さなはんだバンプです。もう1つはSi貫通電極(TSV)で、ウエハの前面からエッチングされた孔が銅で充填されています。

メモリダイ同士は、TSVを介して接続されます。その後、マイクロバンプに接続され、メモリダイを積層パッケージに組み入れて、デバイス間で小型かつ高速な電気的接続を実現しています。

デジタルアプリケーション

HBMのユニークな設計によって、プロセッサとメモリ間の高速データ転送が容易になり、以下のようなAIタスクを最適化することができます。

機械学習と人工知能:AIにおける学習(トレーニング)と推論は、機械学習の2つの異なるフェーズです。トレーニングとは、AIがデータから学習し、パラメータを調整してパターンやルールを見つけ出し、各インプットを特定のアウトプットにマッピングすることを指します。AIの推論とは、AIシステムがトレーニング済みモデルを使用して、人の介在なしに新しいデータに関する予測を行うことです。

機械学習とAIの一例として、SiriやAlexaのようなバーチャルアシスタントがあります。これらのAIシステムは、機械学習アルゴリズムを使用して、ユーザーのコマンドや質問を理解し、それに応答します。