高帯域幅メモリ(HBM)は、AI革命の陰の立役者です。業界が最先端のAIモデルから最大限のパフォーマンスを引き出そうとする中、HBMは世界最速のGPUとAIアクセラレータの原動力となり、強力な計算エンジンに猛スピードでデータを送り込み続けています。この重要な技術はここ数年で急速に成熟し、最近ではNVIDIAやAMDといった業界の巨大企業がより高度な人工知能モデルの開発を促進しようとしているため、イノベーションのペースが加速しています。
残念ながら、高性能HBMメモリの不足によりAI GPUの供給が滞っており、メーカー各社は不足分を補うために生産能力の増強を急いでいます。一方、次世代HBM製品の開発は、次世代AIアクセラレータを支える新たなパフォーマンス向上技術と連携しながら、急速に進んでいます。
公式情報やその他の情報源に基づいて、Micron、Samsung、SK hynix の HBM ロードマップの今後の予定を見てみましょう。
速度と送り
メモリ帯域幅はAIシステムにおける重大なボトルネックです。AIモデル、特にディープラーニングモデルは、ワークロードを処理する際に膨大な量のデータを取り込みます。しかし、ほとんどの最新メモリでは、AIの貪欲なデータ需要を満たすことができません。そこでHBMが登場します。
DDR、LPDDR、または GDDR に基づく従来のメモリは、128 ビットから 512 ビットの幅のインターフェイスを使用し、高いデータ転送速度を採用して 100 GB/秒から 2 TB/秒の帯域幅を提供します。
従来のメモリとは異なり、高帯域幅メモリ(HBM)は非常に広いインターフェース(HBM2およびHBM3の場合は1024ビット、HBM4の場合は2048ビット)を採用しており、帯域幅は最大4TB/秒から8TB/秒まで向上します。GPUやアクセラレータにおける高負荷並列計算は帯域幅が限られているため、この帯域幅の拡大はパフォーマンスの向上に直接つながります。
しかし、HBMはインターフェースが広いため製造が困難で、ベースダイの上にシリコン貫通ビア(TSV)で相互接続された複数の専用DRAMデバイスを積層する必要があります。HBMメーカーは、メモリダイの積層数を変化させることで容量を増加させており、例えば8個のダイを積層した場合は「8-Hi」、12個のダイを積層した場合は「12-Hi」といった用語で表されます。
HBM は、その巨大な帯域幅により、AI システム、HPC ASIC、GPU の事実上のメモリ標準であり、今後もそうあり続けるでしょう。
12-Hi HBM3Eがもうすぐ登場
現在のハイエンドAIアクセラレータ(NVIDIAのH200(141GB)、B200(192GB)、AMDのInstinct MI300X(192GB)など)は、24Gb DRAMデバイスをベースとした24GB 8-Hi HBM3Eスタックを採用しています。業界にとっての次のステップは、24Gbメモリダイを搭載した、より大容量の36GB 12-Hi HBM3Eパッケージの採用です。これらは、NVIDIAの次期B300シリーズやAMDの次世代MI325X AIアクセラレータに採用される予定です。
SKハイニックスは36GB 12-Hi HBM3Eチップの量産を開始したが、マイクロンは9月から同様の製品のサンプル出荷を行っており、新パッケージの量産が間近に迫っているとみられる。
一方、Samsungは8-Hi HBM3Eの認証取得に遅れを取り、12-Hi HBM3Eダイも若干の遅延に見舞われました。Samsungの遅延は、MicronやSK hynixがHBM3E DRAM ICの製造に1β(第5世代、10nmクラス)DRAMプロセスを採用しているのに対し、Samsungは1α製造技術に固執していることが原因と考えられます。NvidiaのB300が量産に入る頃には、Samsungは自社の12-Hi HBM3E 36Gb製品で競合できるようになるでしょう。
HBM4: 2048ビットI/O、最大16層
メーカー各社が今後の HBM3E の展開をまだ検討中ですが、HBM4 と HBM4E はすでに登場しつつあります。
HBM4の暫定仕様(2024年7月に発表)では、HBMスタック向けに2048ビットのより広いインターフェースが導入されています。また、最大6.40GT/sの24Gbおよび32Gb DRAM層も規定されています。この仕様は4-Hi、8-Hi、12-Hi、16-Hi構成をサポートし、柔軟性を高め、さらに大規模な64Gb HBM4パッケージの実現も期待されます。
一方、Rambus の HBM4 メモリ コントローラ IP は、HBM4 の JDEC 標準 6.40 GT/s 速度の発表された能力を超えているため、HBM4E は約 9 GT/s の高いインターフェイス速度を誇る可能性もあります。
HBM4Eを使用すると、メモリメーカーは追加機能を追加することでパッケージのベースダイをカスタマイズできるようになります(SK hynixは2024年初頭にこれを構想していました)。これは、拡張キャッシュ、カスタムインターフェイスプロトコルなどにまで拡張される可能性があります。
メモリメーカー大手3社、Micron、Samsung、SK hynixはいずれもHBM4およびHBM4Eメモリを生産する意向を確認していますが、全体的な展開戦略はそれぞれ異なる可能性があります。
HBM4: 16-Hi スタックだが、32 Gb デバイスの登場は未定
現時点では、主要DRAMメーカーのいずれも、32GbメモリデバイスをベースとしたHBM4またはHBM4Eスタックをロードマップに載せていません。そのため、HBM4およびHBM4E製品はすべて、発売当初はより小型の24Gb DRAMダイを採用すると予想されます。
Micronは、HBM4スタック向け24GbメモリICの製造において、実績のある1ß(第5世代、10nmクラス)プロセス技術を継続して使用すると予想されます。一方、SamsungはHBM4およびHBM4Eで、1γ(第6世代、10nmクラス)プロセスで製造された24Gb DRAMダイへの移行を計画しています。これにより、Samsungは性能、電力効率、コスト面で大きな優位性を獲得する見込みです。SK hynixもHBM4 DRAM ICに1ßを使用する予定で、HBM4E製品については1γプロセスに移行する可能性があります。
層数に関しては、MicronはHBM4およびHBM4Eの12-Hiおよび16-Hiバージョンをリストアップしていますが、SamsungとSK hynixは16-Hi HBM4スタックに直接移行する可能性があります。標準は24Gb DRAMデバイスと12-Hiまたは16-Hiスタックになる見込みで、HBM4はパッケージあたりの容量を48Gbに増加させ、HBM3Eの36Gbから大幅に増加します。
HBM4Eが最終的に登場する頃には、サポートされる層数が16層を超える可能性があり、韓国メーカーが20層設計を採用する可能性があるという噂もあります(ただし、これは鵜呑みにすべきではありません)。その頃には、DRAMメーカーも高帯域幅製品向けに32Gbパッケージを採用しているかもしれません。
HBM4およびHBM4E生産ノード
HBM4およびHBM4Eメモリスタックが、ロジックメーカーがロジックプロセス技術を用いて製造するベースダイを採用し、転送速度と信号品質を向上させることは当然のことです。TSMCとSK hynixは、HBM4にTSMCの12FFC+およびN5ベースダイを使用する計画を最初に発表しました。MicronもTSMCのベースダイを使用する可能性が高いですが(両社はパートナー企業であるため)、公式には確認されていません。
Samsungは、HBM4およびHBM4Eベースダイに自社のSamsung Foundryノードを採用すると予想されています。採用されるノードは未だ不明ですが、TSMCの12FFC+およびN5プロセスと同様のプロセス技術が採用されると予想されます。
HBM4は2026年に登場し、HBM4Eは1年後に登場予定
SamsungとSK hynixは2025年第3四半期頃に最初のHBM4製品を発表すると噂されており、Micronは2025年第4四半期に追随すると予想されています。いずれの場合も、「発表」とは大量生産ではなく、AMDやNvidiaなどのパートナーに最初の動作サンプルを提供することを意味すると思われます。
HBM4 をサポートする実際のプロセッサの量産は 2026 年まで予定されていないことを考慮すると、Micron のわずかな遅延は大きな問題にはならないようです。
興味深いことに、MicronはHBM4の量産開始予定の約1年前にHBM4Eの議論を開始していました。通常、HBM仕様の「拡張」版は、元の規格の発表から数年後に導入されます。Micronの公式ロードマップによると、HBM4Eは2027年後半に登場予定です。
HBM4Eは、NVIDIAの次期RubinアーキテクチャとAMDのMI400 AIアクセラレータのリリース後の世代で使用される可能性が高い。どちらも2026年にHBM4をサポートする予定だ。
カスタマイズ可能なメモリが業界に求められれば、HBM4E は予想よりも早く登場する可能性がありますが、期待しすぎないでください。HBM の開発は非常に困難であることが知られています。
アントン・シロフはTom's Hardwareの寄稿ライターです。過去数十年にわたり、CPUやGPUからスーパーコンピュータ、最新のプロセス技術や最新の製造ツールからハイテク業界のトレンドまで、あらゆる分野をカバーしてきました。