0
AWS CEOは、将来のAIモデルトレーニングタスクの大規模都市規模の電力消費を予測している。「個々のモデルには1~5GWの電力が必要になる可能性がある」
原子力発電所
(画像クレジット:Shutterstock)

Amazon Web ServicesのCEO、マット・ガーマン氏は、今後2~3世代で大規模言語モデル(LLM)の学習には大都市1つ分に相当する電力が必要になると見積もっています。X(旧Twitter)に投稿されたThe Transcriptの引用によると、ガーマン氏は1つのモデルの学習を完了するのに1~5ギガワットの電力が必要になる可能性があると見ており、AWSはこうした需要の増大に対応できる電力プロジェクトに投資しているとのことです。

$AMZN AWS CEO、AIとエネルギーについて語る:「これらの生成AIモデルについて考えると…推定によると、2~3つのモデルで1~5GWの電力が必要になる可能性があり、これは小規模から中規模の都市、さらには大規模な都市に電力を供給するのと同等です」pic.twitter.com/RXF4arZNZn 2024年10月25日

比較のためにMetaのLlama LLMの履歴を見てみると、最初のモデルは2023年2月にリリースされ、続いて7月にLlama 2がリリースされました。そして同社は今年4月中旬にLlama 3をリリースしました。他のLLMもこの学習スケジュールに従えば、平均して7ヶ月ごとに新しいモデルが登場することになります。一方、LLMのパイオニアであるOpenAIは、2020年6月にGPT-3をリリースし、続いて2023年3月にGPT-4をリリースしました。2022年にはGPT-3.5もリリースしましたが、これは新世代というよりはGPT-3の改良版です。このように、OpenAI社は次世代モデルのリリースに3年近くを要しました。

この情報から、典型的な新しいLLM世代は、現在のハードウェアレベルでは学習に約1~2年かかると言えるでしょう。AI企業はモデルの学習にAI GPUをより多く使用していますが、Llama-4のようなこれらのLLMははるかに複雑で、10万基以上のNvidia H100 GPUを搭載したクラスターを必要とします。OpenAIも、利用可能なコンピューティングパワーの制限により、ChatGPT-5モデルのリリースを2025年に延期しています。これらの情報から、約5年後には5ギガワットの電力要件に達すると推測できます。

これにより、OpenAI、Microsoft、Amazon、Google、さらにはOracleといった巨大テック企業は、エネルギー生産を増強する時間的余裕を持つことになる。ガーマン氏はAWSが「500以上のプロジェクトに資金を提供し、再生可能エネルギー源からの新たな電力を送電網に供給している」と述べた。これはデータセンターにとって極めて重要であり、特に再生可能エネルギーは、温室効果ガスを大量に排出する石炭や天然ガスといった従来のエネルギー源とは異なり、導入に時間がかかるため、大きな問題となる。これはAI覇権をめぐる競争における大きな問題であり、Googleでさえ気候目標の達成に遅れをとっており、データセンターのエネルギー需要が原因で排出量は2019年から48%増加している。ある元Google CEOは、AIをフル稼働させて将来的に気候危機を解決できるよう、気候目標を完全に放棄することを提案したほどだ。

それでもなお、これらのAI大手企業は、エネルギー供給網(あるいはその欠如)への脅威を認識しています。そのため、中期的な再生可能エネルギーへの投資に加え、いくつかの企業は原子力発電の開発にも資金を投入しています。マイクロソフトは既に、データセンター需要に対応するため、スリーマイル島原子力発電所の再稼働契約を締結しており、グーグルとオラクルもそれぞれ小型原子炉の建設を計画しています。従来の原子力発電所業界の老舗企業であるウェスティングハウスでさえ、次世代AIデータセンターへの電力供給に向け、容易に設置可能な超小型原子炉の開発に取り組んでいます。

電力制約は現在、AI開発の制約要因となっています。特に、AIデータセンターに必要な新しいインフラ(発電所、送電線、変圧器など)の設置には多大な時間を要するためです。AI企業は、マスク氏がメンフィス・スーパークラスターで使用しているようなポータブル発電機やその他の非再生可能電源を利用して必要な電力を確保することもできますが、これは長期的には持続可能ではありません。したがって、AI開発を継続していくための唯一の希望は、これらの代替となる再生可能電源が早期に稼働することです。

Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。

ジョウィ・モラレスは、長年のテクノロジー業界での実務経験を持つテクノロジー愛好家です。2021年から複数のテクノロジー系出版物に寄稿しており、特にテクノロジー系ハードウェアとコンシューマーエレクトロニクスに興味を持っています。