Amazonは火曜日、Amazon Web Service（AWS）部門専用となる2つの新プロセッサを発表しました。この2つの新しいシステムインパッケージは、汎用ワークロード向けのGraviton 4プロセッサと、人工知能（AI）トレーニング向けのTrainium 2プロセッサです。これらの新デバイスは、Amazonのクライアントにスーパーコンピュータクラスのパフォーマンスを提供するAWSインスタンスに搭載されます。
グラビトン4
AWS Graviton3と同様に、AWS Graviton4は7つのタイルで構成されるマルチチップレット設計を採用しています。AWSがパッケージングに関してIntel Foundry Servicesと提携していることを考えると、これは予想通りです。Graviton4のシリコンをどのファウンドリーが製造しているかは完全には明らかではありません。
Graviton4は、要求の厳しいデータベース、インメモリキャッシュ、大規模データ分析を目的とした、メモリ最適化されたEC2 R8gインスタンスに搭載されます。これらの新しいR8gインスタンスは、既存のR7gインスタンスと比較して、最大3倍の仮想CPU（vCPU）と3倍のメモリを提供します。これにより、AWSのお客様はより多くのデータを処理し、プロジェクトをより効率的に拡張し、処理速度を向上させることができます。現在、Graviton4を搭載したR8gインスタンスはテスト用に利用可能で、今後数か月以内に商用提供される予定です。
「SAP HANA CloudからAWS GravitonベースのAmazon EC2インスタンスへの移行プロセスにおいて、分析ワークロードの価格性能比が最大35%向上しました」と、SAP SEのCTO兼取締役会メンバーであるユルゲン・ミューラー氏は述べています。「今後数か月で、Graviton4とそれが両社のお客様にもたらすメリットを検証していく予定です。」
トレイン2
Amazonは、汎用ワークロード向けのAWS Graviton4プロセッサに加え、AIトレーニング向けの新しいシステムインパッケージであるTrainium2も発表しました。これは、NvidiaのH100、H200、B100 AI GPUに対抗するものです。Trainium2は、従来のTrainiumチップと比較して最大4倍のトレーニング速度と3倍のメモリ容量を実現するように設計されており、これは大きな成果です。さらに、Trainium2はエネルギー効率も向上し、ワットあたりのパフォーマンスが最大2倍に向上しています。Trainium2を搭載したマシンは、ペタビット規模のパフォーマンスを提供するAWS Elastic Fabric Adapter（EFA）を介して接続されます。
Trainium2の特に印象的な点は、EC2 Trn2インスタンスで利用できることです。このインスタンスは最大10万個のTrainium2チップを搭載でき、最大65 AIエクサフロップスの演算能力を提供します。これにより、ユーザーはスーパーコンピュータに匹敵するパフォーマンスをオンデマンドで利用できます。このようなスケーリング能力により、以前は数か月かかっていた3,000億のパラメータを持つ大規模言語モデルの学習が、わずか数週間で完了します。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
設計の観点から見ると、AWS Trainium2 SiP も、2 つのコンピューティング チップレット、4 つの HBM メモリ スタック、および 2 つの未知のチップレット (おそらく高速接続を可能にする) を備えたマルチタイル設計を使用しています。
「私たちはAWSと緊密に連携し、Trainiumチップを用いた将来の基盤モデルの開発に取り組んでいます」と、Anthropicの共同創業者であるトム・ブラウン氏は述べています。「Trainium2は、非常に大規模なモデルの構築とトレーニングを支援し、一部の主要ワークロードにおいて、第1世代のTrainiumチップと比較して少なくとも4倍の速度向上が期待できます。AWSとの連携により、あらゆる規模の組織がAnthropicの最先端AIシステムとAWSの安全で信頼性の高いクラウドテクノロジーを活用することで、新たな可能性を切り開くことができるでしょう。」
アントン・シロフはTom's Hardwareの寄稿ライターです。過去数十年にわたり、CPUやGPUからスーパーコンピュータ、最新のプロセス技術や最新の製造ツールからハイテク業界のトレンドまで、あらゆる分野をカバーしてきました。
