Exacluster は、AI および HPC 向けの Nvidia の H200 Hopper GPU をベースにした業界初のクラスターの 1 つを発表しました: 192…

ExaAILabsのCEO、ウィル・ブリュック氏は金曜日、同社がAIおよびHPC向けNVIDIA H200 GPUをベースとした業界初のクラスターの一つであるExaclusterを導入したと発表した。このクラスターは、Googleよりもユーザーを理解し、Googleよりも優れた検索結果を返す検索エンジンの構築に活用される。

実のところ、Exaclusterはエクサフロップス規模の性能とは全く関係ありません。8ウェイのNVIDIA H200ベースサーバー18台（エクサは10の18乗の10乗を意味します）で構成されていることから、Exaclusterと呼ばれています。このクラスターは144基のH200 GPUと20TBのHBM3Eメモリ（GPUあたり141GBのHBM3E）を搭載し、合計569,958TOPS（約570ペタTOPS）の演算性能を実現します。このクラスターは、ExaAIのニューラルネットワークの学習に使用されます。

クラスタのコストは約500万ドル（Bryk氏によると）で、1台あたり27万7777ドルとなり、これは8ウェイH200ベースボード1台分のコストに相当しますが、サーバー全体のコストではありません。ExaAIがどのようにしてこれほど低価格でH200ベースのマシンを他の多くの企業よりも先に実現できたのかは不明です。それでも、NvidiaはLightspeedやYCombinatorとともに、ExaAIの主要投資家の一社です。

通常、何らかの形でNvidiaと提携している企業は、他社よりも先に同社のハードウェアを入手する傾向があります。ExaAIは、比較的控えめな要件にもかかわらず、同社の強力なコネクションを使わずに自社のマシンを確保できたのかもしれません。それは、同社のAI活用方法が独特で、様々な関係者の関心を集めているからです。ExaAIの究極の目標は、複雑なクエリを理解して処理し、適切な結果を返す検索エンジンを構築することです。同社が成功すれば、私たちが知っている検索に完全な革命をもたらす可能性があります。