AMDとザイリンクスは、データセンター向けの高性能推論システムの開発で提携しました。ザイリンクスは今週、このシステムが推論性能の世界記録を更新したと発表しました。この新システムには、ザイリンクスの新しい機械学習アクセラレータカード「Alveo」が含まれており、リアルタイム機械学習推論に加え、ビデオ処理、ゲノミクス、データ分析を可能にします。
推論の世界新記録
AMDとXilinxは、32コアのEPYC 7551 CPUと8枚のAlveo U250アクセラレータカードを含む、データセンター向けの新しいシステムを開発しました。これらのカードは、TensorFlowなどのMLソフトウェアフレームワークもサポートするXilinxのML Suiteを搭載します。
両社は、このシステムがGoogLeNet畳み込みニューラルネットワーク上で毎秒3万枚の画像を処理する推論スループットを達成したと発表しました。このような高い推論性能は、昨今、膨大な量のデータを分析する必要がある企業から求められているようです。
AMD の CTO 兼技術およびエンジニアリング担当上級副社長であるマーク ペーパーマスター氏は、これを紹介するザイリンクスのイベントでザイリンクスの CEO であるビクター ペン氏とともにステージに立った後、新しいワークロードは CPU だけでなくシステム全体を活用できると述べました。
ザイリンクス Alveo アクセラレータ FPGA
Xilinxは、リアルタイム機械学習推論を「高速化」するために初めて最適化された2つの新しいFPGAカード(Alveo U200とU250)を発表しました。Alveoカードは、低レイテンシアプリケーションにおいてGPUと比較して3倍の低レイテンシと4倍のスループットを約束しており、ここでの焦点は「リアルタイム」推論にあるようです。
Alveoカードは推論タスクにおいてCPUの20倍の性能を誇り、データベース検索では最大90倍の性能を実現します。価格は1枚あたり8,995ドルからで、ザイリンクスは現在、Dell EMC、富士通、Hewlett Packard Enterprise、IBMなどのOEMと協力し、データセンターへの導入を目指しています。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
ルシアン・アルマスは、Tom's Hardware USの寄稿ライターです。ソフトウェア関連のニュースやプライバシーとセキュリティに関する問題を取り上げています。