AI からの需要が高まる中、Samsung が初めて 12 スタック HBM3E を導入

世界最大のメモリチップメーカーは、市場の回復とAIからの高い需要を活用するために、これまでで最も先進的なHBMを発売します。

画像: サムスン

サムスンは火曜日、業界初の12スタックHBM3E DRAMを開発し、これまでで最高容量の高帯域幅メモリとなったと発表した。

韓国のテクノロジー大手は、HBM3E 12H DRAMは最大1,280GB/秒の帯域幅と36GBの容量を提供すると述べた。 Samsung によれば、8 スタックの HBM3 と比較して、帯域幅と容量はすべて 50% 向上しています。

HBM は、垂直に積み重ねられた複数の DRAM モジュールで構成されており、それぞれをスタックまたはレイヤーと呼びます。サムスンの最新の場合、各 DRAM モジュールの容量は 24 ギガビット (Gb)、つまり 3 ギガバイト (GB) に相当し、12 個あります。

メモリメーカーのサムスン、SKハイニックス、マイクロンは、チップをできるだけ薄くしてより多くの容量を実現するために、スタックの高さを制限しながら、より多くのスタックを競おうとしている。

メモリチップ市場のダウンサイクルは終わったようで、3社とも今年HBMの生産量を増やすことを計画しており、AIの人気によるGPU（特にNvidia製のGPU）の需要の高まりによる高い需要に応えることを計画している。 -- これらの HBM とペアになっています。

Samsung によると、パッケージ要件を満たすために、高度な熱圧縮非導電性フィルム (TC NCF) を適用して 12 スタックの HBM3E を 8 スタックの HBM3E と同じ高さにしました。同社によると、フィルムは以前に使用されていたものよりも薄く、スタック間の空隙がなくなり、スタック間の隙間は7マイクロメートルに縮小され、12スタックのHBM3Eは8スタックのHBM3と比較して垂直方向の密度が20％以上向上したという。 。

サムスンによれば、TC NCFでは大小のバンプの使用も可能であり、チップボンディング中、小さなバンプは信号伝達領域に使用され、大きなバンプは放熱が必要な場所に使用されるという。

テクノロジー大手である同社は、HBM3E 12H のより高いパフォーマンスと容量により、顧客はデータセンターの総所有コストを削減できると述べました。 AI アプリケーションの場合、HBM3 8H と比較して、AI トレーニングの平均速度を 34% 向上させることができ、推論サービスの同時ユーザー数を 11.5 倍に高めることができるとサムスンは主張しています。

同社はすでにHBM3E 12Hのサンプルを顧客に提供しており、今年上半期中に量産を開始する予定だ。