何でも質問箱

高帯域幅メモリ（HBM）とは？

複数のDRAMチップを縦に積み重ね、短い距離で大量のデータを同時にやり取りできるよう設計された高速メモリのことです。

高帯域幅メモリは従来のメモリと比べて一度に扱えるデータ量が大幅に多い点が特徴です。これはDRAMチップを縦方向に積層し、その内部をTSV（シリコン貫通電極）で直接つなぐ構造を採用しているためです。この積層構造により、メモリ内部の信号経路が短くなり、広い帯域幅で効率的にデータを転送できるようになります。また、高帯域幅メモリはGPUのすぐ近くに配置されるため、データの移動距離が短く、処理の遅延を抑えられる点も大きな利点です。こうした仕組みによって、AIモデルの学習や推論のように大量のデータを高速に処理する用途で特に効果を発揮します。

HBMが注目されている背景には、AI向けGPUの演算性能が急速に向上する一方で、従来のメモリではデータ供給が追いつかず、GPUの性能を十分に引き出せない「メモリウォール」と呼ばれる課題があるためです。HBMは広い帯域幅を確保することでこの問題を緩和し、GPUが持つ演算能力をより効率的に活用できるようにします。特に生成AIの普及に伴い、AIサーバーやデータセンターではHBMの重要性が一段と高まっています。