Nvidia の次世代 AI GPU は Hopper より 4 倍高速: Blackwell B200 GPU は最大 20 ペタフロップスのコンピューティング能力を実現し…

画像

1

の

6

最後に、GB200システムを搭載した新しいSuperPODをご紹介します。最新のNVLinkチップは最大576基のGPUドメインをサポートすると先ほど述べました。これは重要なポイントです。新しいDGX SuperPODは、まさにその数のGB200 Blackwell GPUに拡張できるからです。各SuperPODには最大8基のGB200 NVL72システムを搭載でき、これはGrace CPU 288基とB200 GPU 576基に相当します。

完全なSuperPODは、240TBの高速メモリと11.5エクサフロップスのFP4演算能力、あるいは5.75エクサフロップスのFP8、あるいは2.88エクサフロップスのFP16演算能力を備え、それ自体がAIスーパーコンピュータとして申し分のない性能を備えています。インストールは多数のSuperPODに拡張可能で、Blackwell GPUとGrace CPUを数万基搭載することも可能です。

何も言及されていませんが、NVIDIAは既にGB200 SuperPODを新規スーパーコンピュータ、あるいは既存のEosスーパーコンピュータの拡張として導入し始めている、あるいは近々導入を開始すると推測されます。NVIDIAは、56台のSuperPODと合計32,000台以上のB200 GPUを搭載した仮想的な導入例を提供しました。これが実現すれば、645エクサフロップスのFP4演算性能、13PBのHBM3eメモリ、58PB/sのNVLink帯域幅、そして16.4ペタフロップスのネットワーク内演算性能を備えたAIスーパーコンピュータが実現することになります。

SuperPODは、最大1兆パラメータのAIデータセットまで拡張可能で、NVIDIAによると、H100ソリューションと比較して、各SuperPODはトレーニング性能が4倍、推論速度が最大30倍向上するという。また、従来のH100ベースのソリューションと比較して、エネルギー効率は最大25倍向上するとも主張しているが、この比較は必ずしも普遍的に当てはまるものではない。今回のケースでは、同数のGPUを使用し、「大規模モデル」を実行し、新しいFP4数値形式を使用している。

NVIDIAはDGX B200システムも提供する予定で、Graceの代わりにXeonまたはEPYCプロセッサを搭載するとみられます。これらのシステムは、特にx86のサポートが必要なワークロード向けです。NVIDIAによると、DGX B200はトレーニング速度を最大3倍、推論速度を最大15倍、消費電力を最大12倍向上させるとのことです。

従来のA100およびH100 SuperPODと同様に、これらはデータセンターやクラウドサービスプロバイダー向けに迅速なスケールアップソリューションを提供するように設計されています。NVIDIAはAmazon Web Services、Google Cloud、Oracle Cloudと連携し、GB200 NVL72ソリューションを提供しています。また、AWSは今後数か月以内に、20,000基以上のB200 GPU、4PBのHBM3eメモリ、400エクサフロップス以上のAIコンピューティング能力を備えたProject Ceibaを展開する予定です。

NvidiaはBlackwellとその関連技術で再び挑戦状を叩きつけている。同社は既にAI分野でトップの座を占めており、最大のボトルネックがどこにあるのか、そしてどのように対処すべきかを熟知している。コアGPUからインターリンク、ノード間通信に至るまで、Blackwellエコシステムは従来のソリューションの潜在的な欠点を補おうとしている。

これまでのHopper H100とAmpere A100ソリューションは、Nvidiaにとって非常に先見の明があり、成功を収めたことを証明しました。業界の今後の方向性を水晶玉で予見しようとしていた人は誰でも、これらのAIソリューションでそれを見事に捉えました。CEOのジェンセン氏は先日、Nvidiaの競合他社はAIソリューションを手放すことができなかったと皮肉を込めて語りました。これは、Nvidiaの優位性は「単なる幸運」だと主張する人々への反論と言えるでしょう。原因が何であれ、その結果、Nvidiaの最新の業績は前年比126%という驚異的な伸びを示し、データセンター部門では直近の四半期で前年同期比600%以上の成長を記録しました。

Blackwellの普及が当分の間、減速することはまずないでしょう。Nvidiaはデュアルチップ化と基盤ハードウェアの大幅な刷新により、GPUサイズを2倍以上に拡大しました。Grace Blackwell GB200スーパーチップもまた、さらなる強化を図っており、2基のB200 GPUと1基のGrace CPUを組み合わせた「スーパーチップ」モジュールを搭載しています。BlackwellはHopperよりもはるかに大規模なシステムに対応できるよう設計されており、より大規模なAIモデルの構築を可能にします。

BlackwellソリューションはHopperと比べてどれくらいのコストがかかるのでしょうか？Nvidiaは明言していませんが、H100 GPUは一般的に1GPUあたり約4万ドルで販売されており、Blackwellに関連するすべての要素を考慮すると、GPU1台あたり10万ドルという価格も不思議ではありません。

競争は当然ながら停滞しておらず、ほぼすべての大手テクノロジー企業がAIとディープラーニング、そしてAI革命の最前線に立つと謳っています。しかし、口先だけで語るのは簡単ではありません。Nvidiaは既にトップに立っています。同社は約10年前からAIに多額の投資を行い、今やその成果を享受しています。少なくとも今後1、2年は、Blackwellが最先端のAIシステムを支える存在となるでしょう。

Blackwell B200ハードウェアは、2024年後半に本格的な生産と出荷が開始される予定です。Nvidiaはまだ正確な時期を明言していませんが、今後数か月以内に詳細が明らかになる予定です。

ジャレッド・ウォルトンは、Tom's Hardwareのシニアエディターで、GPU全般を専門としています。2004年からテクノロジージャーナリストとして活躍し、AnandTech、Maximum PC、PC Gamerなどで執筆活動を行っています。初代S3 Virgeの「3Dデセラレータ」から最新のGPUまで、ジャレッドは最新のグラフィックストレンドを常に把握しており、ゲームパフォーマンスに関する質問は彼にお任せください。