Samsungは、CPUやアクセラレータからリモートアクセスできるRAMとフラッシュメモリを追加する、Compute Express Link（CXL）アドインカード「CXL Memory Module-Hybrid for Tiered Memory（CMM-H™）」を発表しました。この拡張カードは、高速DRAMとNANDフラッシュメモリを混在させており、オーバーサブスクリプション型のサーバーでは選択肢に入らないことが多い、ローカルにインストールされたDDR5メモリを使用せずに、サーバーのメモリ容量をコスト効率よく増強することを目的としています。
Samsungのソリューションは、CPUとアクセラレータ間のキャッシュコヒーレントな相互接続を提供するオープンな業界標準であるCompute Express Link（CXL）上で動作します。これにより、CPUはCXLを利用する接続デバイスと同じメモリ領域を使用できます。リモートメモリ（この場合はハイブリッドRAM/フラッシュメモリデバイス）はPCIeバス経由でアクセス可能で、レイテンシは約170～250ナノ秒（NUMAホップとほぼ同等）かかります。CXLは2019年に導入され、現在は第3版でPCIe 6.0をサポートしています。
CMM-H TM は、Samsung の CMM-H CXL メモリソリューションから派生した製品です。Samsung によると、これは世界初の FPGA ベースの階層型 CXL メモリソリューションであり、「メモリ管理の課題を解決し、ダウンタイムを削減し、階層型メモリのスケジューリングを最適化し、パフォーマンスを最大化すると同時に、総所有コストを大幅に削減する」ように設計されています。
この新しいCMM-HはDRAMほど高速ではありませんが、フラッシュメモリによって大容量のストレージ容量を確保しつつ、拡張カードに内蔵された巧妙なメモリキャッシュ機能によってレイテンシを大幅に低減します。ホットデータは速度向上のためカードのDRAMチップに移動し、使用頻度の低いデータはNANDストレージに保存されます。Samsungによると、この動作は自動的に行われますが、一部のアプリケーションやワークロードは、APIを通じてデバイスにパフォーマンス向上のヒントを与えることができます。当然ながら、キャッシュデータにはレイテンシが発生します。これはすべてのユースケース、特に99パーセンタイルの厳しいパフォーマンスが求められるユースケースには理想的とは言えません。
Samsungの新しい拡張カードは、顧客にサーバーのメモリ容量を拡張する新たな方法を提供します。より高度な大規模言語モデルがホストマシンとアクセラレータにさらに多くのメモリを要求するようになるにつれ、この新しい設計パラダイムはますます重要になっています。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
Aaron Klotz 氏は Tom's Hardware の寄稿ライターであり、CPU やグラフィック カードなどのコンピューター ハードウェアに関するニュースを扱っています。
