ファーウェイの新しいAI CloudMatrixクラスターは、NVIDIAのGB200を力ずくで打ち負かし、4倍の電力を消費する

スワイプして水平にスクロールします

HiSilicon Ascend 910Cは、大規模なトレーニングおよび推論ワークロード向けに中国で設計されました。このプロセッサは、有名企業の高度なEDAツールを使用して設計され、7nmクラスのプロセス技術を使用して製造可能です。SemiAnalysisによると、SMICはAscend 910C用のコンピューティングチップレットを製造できますが、Huaweiが使用しているAscend 910Cチップレットの大部分は、Sophgoなどのサードパーティ企業を介した回避策を使用してTSMCによって製造されており、Huaweiは米国の規制にもかかわらずウェハを入手できています。Huaweiは2023年から2025年にかけて、100万個以上のAscend 910Cプロセッサに十分なウェハを確保したと推定されています。しかし、SMICの能力が向上するにつれて、Huaweiはより多くの生産を中国国内のファウンドリーに委託することが可能になります。

Ascend 910CはHBM2Eメモリを搭載しており、その大部分は別の代理店であるCoAsia Electronicsを通じてSamsungから供給されています。CoAsiaはHBM2Eコンポーネントを設計サービス企業のFaraday Technologyに出荷し、Faraday TechnologyはSPILと協力して、低性能の16nmロジックダイとHBM2Eスタックを組み立てました。これらのアセンブリは、米国規制で定められた閾値を超えなかったため、技術的には米国の輸出規制に準拠していました。システムインパッケージ（SiP）ユニットは中国に出荷され、HBM2Eスタックははんだ付け解除されてHuaweiに送られ、HuaweiはそれをAscend 910C SiPに再実装しました。

パフォーマンス面では、Ascend 910C はチップ当たりの性能が Nvidia の最新の B200AI GPU に比べてかなり劣りますが、Huawei のシステム設計戦略ではシステム当たりのチップ数を増やすことでこれを補っています。

プロセッサの数が増えるとパフォーマンスも向上

CloudMatrix 384は、その名の通り、384基のAscend 910C AIプロセッサを搭載した高密度コンピューティングクラスターです。16ラック構成で、ラックあたり32基のAIアクセラレータを搭載しています。このレイアウトでは、12ラックにコンピューティングモジュールが収容され、さらに4ラックが通信スイッチング用に割り当てられています。NVIDIAのアーキテクチャと同様に、すべてのAscend 910Cはカスタムメッシュネットワークで相互接続されており、相互通信が可能です。

しかし、CM384の特徴は、ラック内およびラック間のすべての内部通信を光リンクのみで実現していることです。6,912個のリニアプラガブル光（LPO）トランシーバーを搭載し、それぞれ800Gbpsの定格速度を実現することで、低レイテンシかつ信号整合性の損失を最小限に抑えながら、5.5Pbps（687.5TB/s）を超える総内部帯域幅を実現します。このシステムは、スケールアップとスケールアウトの両方のトポロジをサポートしています。384個のプロセッサ内のフルメッシュによるスケールアップと、追加のクラスタ間接続によるスケールアウトにより、緊密なコンピューティング統合を維持しながら、より大規模なハイパースケール環境への導入を可能にします。

384個のプロセッサを搭載したHuaweiのCloudMatrix 384は、300PFLOPSの高密度BF16演算性能を実現し、これはNvidiaのGB200 NVL72と比較して166%高い性能です。しかし、CM384の全システム電力（ネットワークとストレージを含む）は約559kWであるのに対し、NvidiaのGB200 NVL72は145kWです。

その結果、NvidiaのソリューションはHuaweiのソリューションよりも2.3倍高い電力効率を実現しています。しかし、前述のように、Huaweiが適切なソフトウェアとサポートを備え、CloudMatrix 384を量産できれば、顧客がシステムの電力消費を気にする必要はなくなるでしょう。

アントン・シロフはTom's Hardwareの寄稿ライターです。過去数十年にわたり、CPUやGPUからスーパーコンピュータ、最新のプロセス技術や最新の製造ツールからハイテク業界のトレンドまで、あらゆる分野をカバーしてきました。