AMDのRyzen AI 300シリーズ モバイルプロセッサは、AMDによる最近の社内テストによると、ローカル大規模言語モデル（LLM）性能においてIntelのモバイル向け競合製品を圧倒しました。同社のコミュニティブログに新たに投稿されたブログ記事では、AMDがAI性能でTeam Blueに勝つために実施したテストの概要と、人気のLLMプログラムLM Studioを最大限に活用する方法が紹介されています。興味のあるユーザーのために。
AMDのテストのほとんどは、LLMをダウンロードしてローカルにホストするためのデスクトップアプリであるLM Studioで実施されました。llama.cppコードライブラリをベースに構築されたこのソフトウェアは、LLMを動作させるためのCPUおよび/またはGPUアクセラレーションを可能にし、モデルの機能に対するその他の制御も提供します。
画像
1
の
2
上記のグラフからわかるように、Ryzen AI 9 HX 375は、テストした5つのLLMすべてにおいて、速度とテキスト出力開始時間の両方でCore Ultra 7 258Vよりも優れたパフォーマンスを示しています。AMDのチップは、最も優勢な状態ではIntelのチップよりも27%優れた速度を示しています。上記のテストに使用されたラップトップは不明ですが、AMDは、テストしたAMDラップトップのRAMがIntelマシンよりも低速（7500 MT/s対8533 MT/s）であることをすぐに言及しました。通常、RAMの速度が速いほどLLMのパフォーマンスが向上します。
IntelのUltra 7 258Vプロセッサは、HX 375と必ずしも公平な競争関係にあるわけではないことに注意が必要です。258VはIntelの200シリーズSKUの中間に位置し、最大ターボ速度は4.8GHzであるのに対し、HX 375は5.1GHzです。AMDがフラッグシップのStrix PointチップをIntelの中堅チップと競合させるという選択は、やや不公平に思えます。そのため、27%の向上という主張は、この点を念頭に置いて考えるべきです。
AMDはLM StudioのGPUアクセラレーション機能も披露し、HX 375との比較テストも行いました。Ryzen AI 300シリーズノートPCの専用NPUはAIタスクの駆動力となることが想定されていますが、オンデマンドのプログラムレベルのAIタスクではiGPUが使用される傾向が強くなります。AMDがLM StudioでVulkan APIを用いたGPUアクセラレーションをテストした結果、HX 375が圧倒的に有利な結果となったため、AMDはGPUアクセラレーションをオンにした状態でのIntelのパフォーマンス数値をテストに含めませんでした。GPUアクセラレーションをオンにした状態では、Ryzen AI 9 HX 375はGPUアクセラレーションなしでタスクを実行した場合と比較して、最大20%高速なtk/sを実現しました。
AI性能に基づくコンピューターに関する報道が盛んに行われている現在、ベンダーはAIがエンドユーザーにとって重要であることを証明しようと躍起になっています。LM StudioやIntelのAI Playgroundといったアプリは、最新の10億回以上の反復処理を経たLLMを個人利用向けに使いやすく、かつ確実に利用できる方法を提供することに尽力しています。しかし、大規模な言語モデルやLLM利用におけるコンピューターの性能を最大限に引き出すことが、多くのユーザーにとって重要かどうかは別の話です。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
サニー・グリムはTom's Hardwareの寄稿ライターです。2017年からコンピューターの組み立てと分解に携わり、Tom'sの常駐若手ライターとして活躍しています。APUからRGBまで、サニーは最新のテクノロジーニュースを網羅しています。
