Tachyumは金曜日、特別に公開されたホワイトペーパーの中で、Prodigy ATXプラットフォームを発表しました。これは、まだテープアウトされていない同社の汎用プロセッサProdigyの縮小版をベースにした人工知能向けワークステーションです。同社はこのユニットを5,000ドルで販売する予定で、このマシンによって数十億（あるいは数兆）のパラメータを持つ大規模言語モデルへのアクセスが民主化されると主張しています。しかし、同社は製品の発売時期を明らかにしていません。
Prodigy ATXプラットフォームは、最大5.70GHzで動作する96コアのProdigyプロセッサ（TSMCの5nmノードで2024年に量産開始予定）をベースにしています。Tachyum氏によると、このCPUは消費電力を削減し、歩留まりを向上させるため、ダイの半分のみが有効化されており、コスト削減とプラットフォームのアクセス性向上に貢献しているとのことです。
このマシンは、16個のメモリモジュールを搭載した1TBのDDR5-6400 SDRAMを搭載し、ピーク帯域幅は819.2GB/sとなる予定です。システムは、PCIe x16 5.0スロットを3基、PCIe 5.0 x4インターフェースを備えたM.2-2280 NVMeスロットを3基、そしてSSDとHDD用のSATAコネクタを搭載する予定です。
ATXボックスであるため、USB、HDMI、イーサネットなど、ATXマシンに期待されるすべてのI/Oコネクタを備えています。さらに、マザーボードにはAspeedのAST2600ボードマネジメントコントローラが搭載されます。
現時点では、Tachyum は Prodigy ATX プラットフォーム マザーボードのブロック図と、その名前が入った空のグレーの PC シャーシをリリースしています。
Prodigy ATXプラットフォームは、事前学習済みモデルを推論に利用することに重点を置いており、プロセッサのアーキテクチャ上の特性を活かして、より効率的に推論を実行できます。Tachyumによると、1兆パラメータモデルはFP8で2.04TBのメモリを必要とします。しかし、Tachyumの4ビットTAIスパースと4ビット重みフォーマットを採用することで、メモリ要件は765GBへと劇的に削減され、システムメモリの1TBという制限内で、さらに大規模なモデルをサポートできるようになります。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
Tachyum 氏は、1 TB の RAM を搭載した単一の 96 コア Prodigy プロセッサを搭載したシステムでは、1.7 兆のパラメータを持つ ChatGPT4 モデルで推論を実行できるが、「同じことを実行するには、大幅に高いコストと電力消費で 52 個の Nvidia H100 GPU が必要になる」と述べた。
「生成AIは、当初誰もが予想していたよりもはるかに早く広く普及するでしょう」と、Tachyumの創設者兼CEOであるラドスラフ・ダニラック博士はプレスリリースで述べています。「1～2年後には、AIはウェブサイト、チャットボット、その他の重要な生産性向上コンポーネントにおいて、優れたユーザーエクスペリエンスを確保するために必須の要素となるでしょう。Prodigyの強力なAI機能により、LLMは既存のCPU + GPGPUベースのシステムよりもはるかに容易かつコスト効率よく実行できるようになり、あらゆる規模の組織が、そうでなければ業界最大手企業が独占していたであろうAIイニシアチブにおいて、競争に勝つことができるようになります。」
TachyumがProdigyプラットフォームの普及に成功すれば、十分な数のプロセッサを供給できれば、AI分野におけるゲームのルールを一変させる可能性を秘めている。しかし、実際に動作するシリコンが不足しているため、それが実現するかどうかは不透明だ。さらに、TachyumがProdigyプロセッサの量産をいつ開始し、いつ量産を開始する予定なのかも不明だ。
Prodigy ATXプラットフォームに関しては、同社にとっての経済的な実現可能性に多少の疑問を抱いています。1枚あたり240ドルの64GB RDIMMを16枚搭載すると3,840ドル、高度な電圧調整モジュールを搭載した高度にカスタマイズされた多層マザーボード（ここでは12層～16層）は500ドル（比較的少量生産のマザーボードなので高価です）、2000W電源ユニットは約300ドル、信頼性の高いクーラーを備えたまともなシャーシは約150ドルです。これらを合わせると、TachyumのProdigyプロセッサを搭載していなくても、システムの総費用は約4,800ドルになります。
もちろん、同社は大量購入を行っているため、最終的にはコストは大幅に削減されるだろう。しかし、Prodigyのシリコンもおそらく高価であるため、推論用に設計されたプラットフォームがTachyumにとって経済的に実現可能な製品となるかどうかは疑問だ。そしてもちろん、同社の度重なる発売延期をめぐる懐疑的な見方も高まっている。
アントン・シロフはTom's Hardwareの寄稿ライターです。過去数十年にわたり、CPUやGPUからスーパーコンピュータ、最新のプロセス技術や最新の製造ツールからハイテク業界のトレンドまで、あらゆる分野をカバーしてきました。
