Intel、128 コアの Granite Rapids Xeon 6900P シリーズを発表 — AMD EPYC のコア数に匹敵…

スワイプして水平にスクロールします

Granite Rapids のアーキテクチャについてはこれまで何度も取り上げてきましたが、ここでは簡単に概要を説明します。

Intelの6700Pシリーズは、3つのコンピュートダイ（UCC指定子）を搭載した設計で構成されています。これらのダイはIntel 3プロセスノードで製造され、Redwood Coveマイクロアーキテクチャを採用したCPUコア、キャッシュ、インターコネクトメッシュ、メモリコントローラを内蔵しています。Intelは各ダイに搭載される物理CPUコアの数を公表していませんが、欠陥の影響を軽減し、歩留まりを向上させるために、各ダイには少なくとも1つの物理CPUコアが追加されていると推測できます。

各コンピュートダイには4つのメモリコントローラが接続されており、ダイ間アクセスでレイテンシのペナルティが発生する可能性があります。Intelは、すべてのダイを1つのプールとしてアクセスできる標準のHEXモードと、メモリとL3キャッシュへのアクセスを各ローカルコンピュートダイに制限することでレイテンシの影響を回避するSNC3モードの両方を提供しています。これは、前世代モデルの従来のSub-Numa Clustering（SNC）モードに似ています。これらのモードは、今後のレビューでテストする予定です。

各チップには、スペックに関わらず2つのI/Oダイが搭載されており、モデル間でI/O機能を統一しています。I/OダイはIntel 7プロセスノードで製造され、PCIe、UPI、CXLコントローラーとI/Oファブリックを内蔵しています。

Intel は本日、トリプル コンピュート ダイの UCC モデルをリリースしますが、コア数/ダイ数が少ない XCC、HCC、LCC モデルは 2025 年第 1 四半期に登場します。

I/Oダイには、QAT、DLB、DSA、IAAアクセラレータも内蔵されており、圧縮、暗号化、データ移動、データ分析ワークロードのパフォーマンスを向上させます。これらの機能は通常、外部I/Oを必要としますが、これらの機能に低消費電力のIntel 7トランジスタを使用することで、より高価なIntel 3トランジスタをコンピューティング機能に活用できます。

残念ながら、IntelのDSAおよびIAAアクセラレータブロックには脆弱性があり、VMでの使用は安全ではありませんが、信頼できるソフトウェア（ホストリング0）では使用できます。アクセラレータが未使用の場合、この脆弱性による問題は発生しません。Phoronixによると、これはハードウェアの問題であり、ソフトウェアパッチでは解決できないとのことです。DSAおよびIAAの問題は、Diamond RapidsおよびGranite Rapids Dプロセッサが登場するまで、シリコン上で完全に解決されません。 

前世代のEmerald Rapidsで見られたように、Intelはチップの負荷が低い場合の電力効率の向上に引き続き注力しています。これは、ほとんどのサーバーが通常30%から50%の使用率で動作し、現代の環境ではフル負荷のシナリオは比較的稀であるためです。

Intelは、新しいプロセスノードとマイクロアーキテクチャ、そしてアンコア/ファブリック周波数を含む複数の側面を動的に調整する洗練された電力管理最適化を組み合わせることで、40%の使用率でワットあたりの性能が最大1.9倍向上したと主張しています。ただし、効果は負荷レベルによって異なりますが、CPU使用率の負荷範囲全体において、前世代のXeon 8592+と比較して顕著な改善が見られます。 

この機能は、以前の世代のXeonモデルでは「最適化された電力モード」設定に組み込まれていましたが、Intelによると、このモードのトレードオフは無視できる範囲にまで削減されました。そのため、IntelのXeon 6は現在、デフォルトでこのモードで動作します。

画像

1

の

3

APプラットフォームは12個のメモリチャネルを備えていますが、チャネルあたり1個のDIMM（1DPC）しかサポートしません。標準メモリでは最大DDR5-6400をサポートし、専用のMultiplexed Rank DIMM（MRDIMM）を使用することで、最大8800 MT/sまで速度が向上します。上記の最初のグラフの右側に示されているように、Intelは、特定のAIおよびHPCアプリケーションなど、メモリスループットが重要なワークロードにおいて、MRDIMM-8800は標準DDR5-6400メモリと比較して最大1.33倍のパフォーマンスを提供すると主張しています（ResNet50ベンチマークは、128コアモデルではなく、96コアのXeon 6を使用しています）。 

MRDIMMはJEDEC規格のメモリ（当初はAMDが提唱）であり、複数のメモリバンクを同期させて動作させることで、標準的なDIMMを超えるパフォーマンスを実現します。このタイプのDIMMはメモリコントローラにおけるハードウェアベースのサポートを必要とし、Intelはこの新しいメモリ技術のサポートを市場に初めて投入したと主張しています。Intelによると、MRDIMMは標準的なDDR5と同等かそれより優れたレイテンシを実現しますが、当然ながらコストは高くなります。

MRDIMMは、パフォーマンスを向上させるMCRDIMM（元々はIntelが提唱）と混同しないでください。MCRDIMMは高速ですが、より複雑で、JEDECの公式承認を受けていません。Intelは前世代のXeonでMCRDIMMをサポートしていましたが、現在はMRDIMMに移行しています。

メモリ容量と帯域幅は、特にAIワークロードやインメモリデータベースにおいて、ますます喫緊の課題となっています。ComputeExpress Link (CXL) は、こうしたニーズへの対応を支援するために設計されています。Granite Rapids は、Type 1、Type 2、Type 3 の CXL 2.0 デバイスをサポートしており、AMD の将来のプラットフォームでも同様のサポートが期待できます。

インテルによると、顧客は経済的なDDR4メモリとCXLデバイスを組み合わせることでDDR5搭載サーバーのメモリ容量を増強し、コスト削減を図ることに最も関心を持っているとのことです（多くの顧客は、古いサーバーからDDR4メモリを再利用することを計画しています）。CXLコンソーシアムは数年前から、この種の組み合わせに対する業界の強い関心について私たちに伝えていましたが、インテルは現在、近い将来に量産レベルでの導入が見込まれると述べています。

Intelは、現在では廃止されたOptane DIMMで培った知見を基盤とした独自のフラットメモリモードにより、この市場で優位な立場にあると自負しています。この機能は、標準的な直接接続のDDR5メモリDIMMと、PCIeレーン経由で接続されたリモートのType 3 CXLメモリデバイス（DDR4）の両方から、1つの巨大なメモリプールを構築します。Intelのアプローチはハードウェア支援型で、メモリコントローラに組み込まれており、他のメモリ階層化ソリューションのようなソフトウェアベースではありません。そのため、CPUオーバーヘッドは発生せず、ホストオペレーティングシステムに関係なく動作します。  

Intelは、DDR4とDDR5を組み合わせたメモリプールの利点を示すベンチマークを公開しました。メモリコントローラは、複数の変数に基づいてデータを適切なプールにインテリジェントに配置します。Intelによると、インメモリOLAPデータベースでは3%のパフォーマンス低下が見られ、プールの3分の1が低速なDDR4メモリで構成されているにもかかわらず、パフォーマンスの低下は最小限に抑えられています。

AIとHPCのベンチマーク

画像

1

の

7

上記はIntelのパフォーマンスに関する主張です。また、記事の最後には、ベンチマークに関する脚注をすべてまとめたアルバムをご用意しています。ベンダー提供のベンチマークではよくあることですが、これらの結果には注意が必要です。

Intelの比較の多くは第5世代Xeonモデルと比較されており、一般的なコンピューティング、データおよびWebサービス、HPC、AIワークロードの幅広い範囲において、パフォーマンスと電力効率の両方で大幅な向上を示しています。注目すべきは、これらのベンチマークでは、個々の比較において、異なるコア数とメモリタイプ（DDR5、MRDIMM）を使用していることです。全体として、Intelは第5世代Xeonの同等製品と比較して、コアあたり平均パフォーマンスが1.2倍、ワットあたりパフォーマンスが1.6倍、平均TCOが30%低いと主張しています。

当然のことながら、AMD EPYCとのベンチマークなしでは比較は完結しません。仮想化環境における優位性を強調するため、IntelはAMDの第4世代EPYC「Genoa」チップとのベンチマークも提供し、16 vCPUのVMワークロードにおけるResNet50ワークロードで最大2.88倍のパフォーマンスを発揮したほか、BERT-large、LAMMPS、NGINXなど、その他多数のワークロードでも優位性を示したと主張しています。

Intelは、AMDのBergamoチップとGenoaチップを、一般的なコンピューティング、データサービス、Webサービスの各分野において比較したベンチマーク結果も公開しました。また、標準DDR5とMRDIMMの両方を搭載したEPYC 9654と比較したHPCベンチマーク結果も公開しました。ただし、これらの結果を評価する際には、以下の脚注にご注意ください。

画像

1

の

7

AIは現在、データセンター支出の大部分を占めており、この傾向は今後も続くと予想されます。そのため、Intelは、既存のINT8とBfloat16に加えて、新たにFP16もサポートするAdvanced Matix Extensions（AMX）によって、AIワークロードにおける優位性を実証することに熱心です。

Intel は、AI CPU の優位性は、CPU 上での生の AI コンピューティング、AI GPU と組み合わせた場合の CPU パフォーマンスとサポート、そして AI トレーニング ワークロードを強化するために CPU 上で実行されるベクトル化データベースのパフォーマンスという 3 つの形をとると考えています。

Intel は、96 コアの Xeon 6972P を EPYC Genoa 9654 および前世代の Xeon 8592+ と比較し、ローカルで実行される幅広い AI ワークロードにわたる利点を強調しました。 

当然のことながら、ここでの真の競合はAMDが近日発売予定のTurinですが、Intelは比較対象としてこれらのチップを用意していません。その代わりに、IntelはAMDがComputex基調講演で公開したTurinのAIベンチマークを活用したスライドを公開しました。Intelはこのベンチマーク結果に満足せず、新型Xeon 6980Pと128コアのTurinを比較した新たなベンチマーク結果で反論を強め、要約処理で2.1倍、チャットボットで5.4倍、翻訳ワークロードで1.17倍の差をつけたと主張しました。当然のことながら、AMDが来月Turinを発売する際には反撃すると予想されます。 

インテルはまた、自社のチップがNVIDIA GPUを搭載したシステムだけでなく、自社のGaudi 3を含むディスクリートアクセラレータを搭載したあらゆるサーバーと相性が良いことを目指しています。インテルは、NVIDIAのMGXシステムでの使用に適した複数のXeon 6モデルを保有しており、AI GPUを限界まで押し上げる優れたCPU性能の証左であるとしています。また、シングルスレッドCPU性能、I/O性能、メモリ帯域幅と容量の向上に加え、DC-MHSおよびNVIDIAのMGX規格のサポートが、自社の地位を確固たるものにしていると主張しています。   

最後に、インテルはAMXサポートをベクターデータベースにおける優位性として強調しました。インテルのスケーラブル・ベクター・サーチ（SVS）ライブラリは、同社のベンチマークにおいてEPYC 9654よりもインデックス作成と検索性能を向上させました。この種のデータベースは、AI RAGワークロードと併用することができ、ベクターデータベースには学習用データセットの埋め込みが格納されます。当然のことながら、この種のワークロードで優れた性能を発揮することはGPUの性能を増強し、学習プロセスの効率化に貢献する可能性があります。

考え

IntelのXeon 6ラインナップは、コア数においてAMDの伝統的な優位性とついに互角に渡り合うことになりましたが、真の真価は、異なるプラットフォームの独立したベンチマークとコスト分析によって明らかになるでしょう。Intelのプレゼンテーションで特に欠けていたのは、競合するArmサーバーチップとのベンチマーク比較です。Armは、主にハイパースケーラーやクラウドプロバイダーが導入するカスタムモデルを通じて、着実にデータセンター市場への進出を果たしてきました。そのため、直接比較するのは少々難しいですが、将来的にはArmの競合製品との仮想化技術の比較が見られることを期待しています。

Intel の Xeon 6700P シリーズは本日世界中で発売され、後継モデルは 2025 年第 1 四半期に登場します。現在、Xeon 6 サーバー プラットフォームのテストに取り組んでいますので、ベンチマーク結果をお楽しみに。

画像

1

の

16

ポール・アルコーンはTom's Hardware USの編集長です。CPU、ストレージ、エンタープライズハードウェアに関するニュースやレビューも執筆しています。