成均館大学のクォン・ソク・ジュン教授は、ジュカン・チェ氏経由の情報として、現代の大規模推論モデル（LRM）と大規模言語モデル（LLM）の根本的な推論限界を明らかにしたAppleの最近の研究論文には欠陥があると考えている。これは、Appleが高性能なLRMとLLMの真の能力をテストするのに十分な高性能ハードウェアを保有していないためだ。同教授は、AppleはGoogle、Microsoft、xAIなどが運用しているような大規模なGPUベースのクラスターを保有しておらず、自社のハードウェアはAIに適していないと主張している。
より優れたハードウェアが必要
しかし、同教授は、Apple の研究の主要な結論、つまり、複雑さが一定の点を超えると、利用可能な計算リソースに関係なく、Claude 3.7 Sonnet Thinking と DeepSeek-R1 LRM の精度がゼロに低下するという結論には欠陥があると主張している。
「これは、実際の言語モデルのスケーリング則から得られる観察結果と真っ向から矛盾しています」と、Seok Joon Kwon氏は主張する。「これまで数百件のスケーリング関連研究は、パラメータ数が増加するにつれてパフォーマンスはべき乗則に従って向上し、ある一定のサイズを超えるとパフォーマンスが飽和状態に近づくことを一貫して示してきました。少なくとも、パフォーマンスは飽和状態に達する可能性はありますが、低下することはありません。[…] これは、Appleがスケーリングの傾向を確認するのに十分な大きさのパラメータ空間をテストできるほどの規模のGPUベースのAIデータセンターを保有していないためかもしれません。[…] スケーリング則の検証は、大規模言語モデルのスケーリング則の検証に似ており、そのためには、Appleの研究者はトレーニングデータ、パラメータ、計算負荷の組み合わせをテストし、パフォーマンス曲線を示すべきでした。」
Appleの論文発表は、同社の年次カンファレンスであるWWDCに先立って行われたが、予想通りAppleはAIへの取り組みに関する重要な発表を一切行わなかったため、AIをめぐる世界的な競争でAppleが後れを取っているのではないかという批判が巻き起こった。Seok Joon Kwon氏は、このような偶然の一致は単なる偶然ではなく、AppleはAnthropic、Google、OpenAI、xAIといった企業の業績を軽視しようとしたのではないかと見ている。Appleは明らかに市場リーダーに遅れをとっているからだ。
基本的なハードウェアの制限
Appleが2024年にApple Intelligenceイニシアチブを発表したとき、デバイス上での処理と比較的基本的なタスクに焦点を当てていました。WWDCでは、同社は独自のデータセンターグレードのAIに関する進捗状況を明らかにしなかったため、Apple Intelligenceは再び厳しいプライバシーとパフォーマンスの制約のあるデバイス上での処理に限定されました。このアプローチはプライバシーを重視するユーザーの間での地位を強化する一方で、競争力のある機能を果たすためにかなりの計算量とユーザーデータを必要とするLLMとLRMをトレーニングする能力がAppleにはないことを意味します。同時に、Appleは現在、Siriが単独で質問に答えられない場合に、Siriやその他のAIツールが外部の大規模言語モデル（最初はChatGPT 4o、まもなくGemini）を呼び出すことを許可しています。この場合、ChatGPTはユーザーが明示的に承認したコンテンツのみを受け取ります。AppleはユーザーのIPを隠し、OpenAIが個人アカウントデータを共有または保持しないことを保証しています。
このようなハイブリッドなアプローチはAppleでは一般的ではなく、Seok Joon Kwon教授は、Appleが閉鎖的なエコシステムに根本的に重点を置いた結果、LRMとLLMのトレーニングに必要な適切なデータセンターグレードのハードウェアを開発できなかったと考えています。結局のところ、AppleのMシリーズプロセッサは主にクライアントPC向けに設計されているため、GPUはAIトレーニングに使用されるFP16をサポートしておらず、メモリサブシステムは高性能なHBM3EではなくLPDDR5メモリに依存しています。また、AppleのMシリーズCPUは、PyTorchのような広く使用されている機械学習フレームワークをネイティブにサポートしていないため、面倒な変換が必要になります。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
その結果、Apple がライバルに追いつきたいのであれば、クライアント PC 向け M シリーズ システム オン チップの Apple GPU や NPU の設計に根本的に依存せず、高度なメモリ サブシステムと洗練された AI トレーニングおよび推論機能を備えた専用のサーバーグレードのプロセッサを開発する必要がある。
Google ニュースで Tom's Hardware をフォローすると、最新のニュース、分析、レビューをフィードで受け取ることができます。「フォロー」ボタンを忘れずにクリックしてください。
アントン・シロフはTom's Hardwareの寄稿ライターです。過去数十年にわたり、CPUやGPUからスーパーコンピュータ、最新のプロセス技術や最新の製造ツールからハイテク業界のトレンドまで、あらゆる分野をカバーしてきました。
