67
マイクロンの新型HBM3 Gen2は1.2TB/秒で世界最速、2TB/秒以上の次世代を予感させる

HBM3E

(画像提供:マイクロン)

Micronは本日、新しいHBM3 Gen2メモリのサンプル出荷を顧客向けに開始したと発表しました。このメモリは、1.2TB/sの総合帯域幅と、24GB(36GBは近日発売予定)という世界最速の8段スタックメモリを搭載しています。Micronはまた、この新しいメモリは最も電力効率が高く、同社の前世代HBM2Eと比較してワットあたりの消費電力が2.5倍向上していると主張しています。MicronのHBM3 Gen2には、合計36GBの12段スタックオプションも用意されており、こちらも近日発売予定です。

Micron は、SK hynix や Samsung などのライバルを上回り、第 2 世代 HBM3 メモリと呼ばれるものを初めてサンプル提供した企業です。これは、多くのメモリを必要とする AI アクセラレータに電力を供給するためにベンダーが可能な限り最速かつ最も大容量のメモリを求めて争っている現在の AI 軍拡競争を考えると、有利になる可能性があります。  

HBM3 第2世代 HBM3E

(画像提供:マイクロン)

MicronのHMB3 Gen2は、同社のメモリポートフォリオの中で最も高い帯域幅を提供します。Micronは、標準的なHBM3製品のリリースを実質的に省略し、HBM2Eから「HBM3 Gen2」に移行しました。Micronによると、新しい「Gen2」という命名規則は、「パフォーマンス、容量、電力効率における世代間の飛躍を表す」とのことです。

Micronのロードマップには「HBMNext」という記載があり、これはHBM4の可能性があります。この次世代メモリは、2026年頃に登場し、2TB/s以上のスループットと最大64GBの容量を実現します。

画像

1

9

HBM3 第2世代 HBM3E
(画像提供:マイクロン)

Micronの新しいHBM3 Gen2メモリは、8段24GBダイを積層した8層構造で、他の8段HBM3スタックと比較して50%の容量増加を実現します。HBM3は現在、12段スタックで最大24GBです。Micronの新しいメモリは、標準的なHBM3と同じ11mm×11mmのフットプリントに収まるため、大幅な密度向上を実現しています。パッケージは既存のHBM3とピン互換であるため、より高速なメモリへの交換は比較的容易です。 

MicronのHBM3 Gen2にも、合計36GBの12段スタックがあり、近日中に登場予定です。AMDのMI300のような8つのHBMパッケージを備えたデバイスの場合、最大288GBの容量が可能になりますが、NvidiaのH100で見られるような、より一般的な6段スタックでは、216GBの容量に相当します。

8段スタックは、1ピンあたり9.2Gbpsの帯域幅を50%向上させ、1024ビット幅のメモリバスでは1.2TB/sに相当します。これは、1ピンあたり最大6.4Gbps、総スループット820GB/sの現行HBM3メモリと比較して、1ピンあたり50%の高速化となります。当然ながら、メモリサブシステムの規模に応じてパフォーマンスは向上します。 

スワイプして水平にスクロールします

行0 - セル0

マイクロン HBM3 Gen2

HBM3

HBM2E

HBM2

最大容量

24 | 36 GB

16 GB | 24 GB

16ギガバイト

8GB

スタック高さ

8ハイ | 12ハイ

8ハイ | 12ハイ

8ハイ | 12ハイ

8ハイ

ピンあたりの帯域幅

9.2 Gbps

6.4 Gbps

3.6 Gb/秒

2 Gb/秒

総帯域幅

1.2 TB/秒

819 Gbps

460 GB/秒

256 GB/秒

バス幅

1024ビット

1024ビット

1024ビット

1024ビット

電圧

1.1V

1.1V

1.2V

1.2V

HBM3 Gen2の容量と帯域幅の拡大に伴い、発熱量も増加するのは当然のことですが、Micronは潜在的な問題を軽減するため、熱対策を複数講じました。Micronは、HBM3 Gen2にも、現行世代のDDR5メモリと同じ1β(1-beta)プロセスノードを採用しています。このノードはMicronの最後の非EUV DRAMノードであり、標準のHBM3メモリと比較して、密度と電力効率の両方が向上しています。

Micron 社は、HBM3 Gen2 は前世代の HBM2E と比べてワットあたりのパフォーマンスが 2.5 倍向上し、前世代と比べて Pj/ビット (ピコジュール少々) が 50% 以上向上していると主張しています (Micron 社は具体的な数値の発表を拒否しました)。

MicronはDRAMの各層間の間隔を23%縮小しました。これにより、最下層のダイ(最も高温になりやすい)から最上層のダイ(最も低温になりやすい)への熱伝達が向上します。層間の空気は断熱効果も持つため、ダイ間の距離を狭めると、エアギャップも減少します。ただし、Micronは最終パッケージのZ高さ(厚さ)を標準の720μmに維持しています。

Micron社はまた、データレーン数の増加による電力効率向上に貢献するTSV数を倍増させ、現行世代のHBM3と比較して相互接続部を25%縮小しました(ピッチの公表は控えています)。高密度化された金属TSV相互接続は、デバイスの層間の熱伝達も改善します。Micron社によると、HBM3 Gen2は「金属密度が5倍に向上」しており、熱抵抗も低減しています。結果として、容量とスループットの向上にもかかわらず、パッケージは標準的な0℃~105℃の動作範囲に収まります。

Micron社によると、HBM3 Gen2はノイズ耐性に優れた設計で、高度な信号整合性と電力整合性を備えていますが、リード・ソロモン・オン・ダイECC(誤り訂正符号)が介入し、問題があれば修正します。これはオンダイであるため、ECC用に追加のダイは必要ありません。

MicronのHBM3 Gen2パッケージは、標準のCoWoSパッケージと互換性があります。これは、GPUやその他のアクセラレータにおいて業界でこのタイプのパッケージが好まれていることを考えると必須の要件です。HBM3 Gen2メモリのチャネル配置はHBM3と同じで、16チャネルと32の仮想チャネル(チャネルごとに2つの擬似チャネル)を備えています。

Micronは第2世代HBM3のサンプル出荷を最初に開始しましたが、SK hynixは最近、2024年のリリースに向けて24GBのHBM3Eスタックを開発中であることを明らかにしました。ただし、これらの製品は1ピンあたり最大8Gbps(合計1TB/秒)とされており、Micronは全体の帯域幅で約20%の優位性を持つことになります。当然ながら、より徹底的な比較を行うには、SK hynixからの最終発表を待つ必要があります。

MicronのHBM3 Gen2は現在、8段スタックのサンプルをパートナー企業に提供しており、12段スタックも近日中に提供開始予定です。量産は2024年に開始されます。

Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。

ポール・アルコーンはTom's Hardware USの編集長です。CPU、ストレージ、エンタープライズハードウェアに関するニュースやレビューも執筆しています。