デザインツール
さまざまに広がる用途

AIがもたらす消費電力の増加、マイクロンによる電力効率の向上

ラリー・ハート | 2024年5月

世の中にはAIの話題があふれています。流行りの言葉でクリック数を稼ごうとしているわけではありませんが、テクノロジーの世界では、ミーティングや記者会見、メディア記事、さらには家族との会話でも、このAIという言葉が何度も繰り返し登場するようになりました。これは大げさすぎるでしょうか? 私の友人でありコーポレートバイスプレジデントであるジェレミー・ワーナーは大げさなものではないと考えており、AIが全人類にとってどのように役立つか、さまざまなシナリオを予測しています(「ストレージ、テクノロジー、世界が2024年にどうなるかを予測する」パート1およびパート2を参照)。

ジェレミーの話には説得力がありますが、それでもAIの将来をあざ笑う人もいます。しかし、これまでの20年間にテクノロジーがいかに私たちの生活や仕事の環境を変えてきたか、少し考えてみましょう。私たちは、重要なものかそうでないかにかかわらず、さまざまな情報を見つけるために、ほぼ毎日検索エンジンを使用しています。スマートフォンはあまりにも高機能なので、もはや電話として使用することはほとんどありません。車で知らない場所に行くときは誰でもGPSマップを使用するでしょう。帰宅時に最速のルートをGPSで調べるのは当たり前のこととなっています。欲しいものを買うときに実店舗に行きますか? 多くの人がネット通販に抵抗がなく、オンラインで注文して家に直接届けてもらっています。テレビ(「ライブTV」という名前でも呼ばれます)で番組や映画を見ていた人々の多くが、Netflixなどのストリーミングサービスに移行しています。今では、ネットワーク側が提供するものを視聴するのではなく、ユーザー側が視聴するものを選んでいます。ソーシャルメディアを利用すると、友人や家族がどこにいてもつながることができます。多種多様な革新的テクノロジーのおかげで、私たちの生活は向上してきました。テクノロジーがこの素晴らしい世界を築いているのです。

このように、AIにはさまざまな未来を切り開く可能性があり、今後20年間に我々に与える影響は特に注目に値します。もしこれが間違っていたとしても、1つ確かなことがあります。それは、マイクロンのお客様がテクノロジーエコシステムの中核部分としてAIを受け入れているということです。世界のAIサーバー市場は、2024年から2029年にかけて25%の成長率が見込まれています(売上の年平均成長率(CAGR)で計算)1。マイクロンのお客様はAIワークロードを継続的に拡張し、AIの用途を拡大しており、これがAIサーバーの購入を増加させる原動力となっています。

AIサーバーソリューションの基盤となるコンポーネントの1つに、GPUやアクセラレーターがあります。このGPUは膨大な量の電力を消費します。たとえば、NVIDIA H200 GPUは最大700ワットの電力を消費します。サーバーにH200 GPUが8基積まれている場合、その電力は5,600ワットにも上ります。一方、SSDの最大消費電力を25ワットとしましょう。サーバーに24基のSSDを積んでも、合計の消費電力は最大でわずか600ワットです。

これは最大電力の比較であって、通常の消費電力とは異なるという声もあるかもしれません。しかし、こレラのシステムでは理論的に、GPUがSSDの約10倍の電力を消費する場合があることは間違いありません。メモリ、CPU、DPUも、GPUと比較すると消費電力はそれほど大きくありません。サーバーでAIワークロードを実行するのに必要な電力量が重要な問題となっている、という声がお客様から寄せられています。

消費電力はインフラにとって重要な問題

従来以上にユーザー数やコンテンツ量が多いシステムにGPUを装備すると、消費電力も当然増加するように思えます。しかし、世界的な消費電力量と比べると、データセンターの消費電力は驚くほど変わっていません。

デジタルサービスの需要は急速に増大しています。2010年以降、世界のインターネットユーザー数は2倍以上に増え、全世界のインターネットトラフィックは20倍も増加しています。

一方、エネルギー効率も急速に向上しているため、データセンターやデータ伝送ネットワークの消費電力はそれほど増加しておらず、全世界の消費電力の1~1.5%に留まっています2

でも、考えてみてください。インターネットユーザー数は2倍になっています。そして、トラフィックは20倍も増えています。それなのに、全世界の電力消費量のわずか1~1.5%に留まっているのはなぜでしょうか? なぜこの割合は、何年もの間変わらないのでしょうか? マイクロンが電力効率の限界に挑み続けていることが、その要因の1つです。先日NVIDIAが、H200 Tensor Core GPUにマイクロンのHBM3Eメモリを使用することを発表しました3。NVIDIAによると、大規模言語モデル(LLM)の演算において、新しいH200 GPUの消費電力は前世代のわずか半分となっています。この削減の大部分は、電力消費が激しいデバイスの電力効率を向上させることにマイクロンが取り組んだ結果、実現したのです。

 

出典:NVIDIA H200 Tensor Core GPUデータシート
NVIDIA H200 Tensor Core GPUデータシート

サステナビリティの最前線に立つマイクロン

マイクロンは全人類にとってサステナブルな未来の実現に取り組んでおり、従来に勝る電力効率も性能も高いAIソリューションを提供することで、環境負荷の低減を牽引することを目指しています。その取り組みには、次のようなものがあります。

  • Micron HBM3Eは、競合製品と比較して電力効率が大幅に改善されています。本製品の消費電力は競合製品よりも約30%低くなっており3、また帯域幅は1.2TB/秒となっています。
  • DDR5は推論演算の電力削減に貢献し、AI推論の消費電力が最大48%減少します。驚くべきことに、トレーニングの所要時間も28%短縮します4
  • Micron 6500 ION SSDは省電力化と長寿命化を両立させています。競合他社のQLC SSDと比較して消費電力が最大20%少ないため、運用コストの削減に寄与するとともに、4KBランダム書き込みの耐久性が最大10倍となっているため、寿命が長くなっています5
  • Micron 7450 SSDは、スループットが7300 SSDの2倍に増加しています。同様に消費電力もほぼ半減しており、電力効率(セクションあたりの入出力操作(IOPS)あたりのワット数)が50%向上しています6
  • Micron 9400 SSDは、前モデルと比べて電力効率が77%向上しています7

私たちは、提供するすべての製品において業界の基準を引き上げ、消費電力の削減に貢献することを誇りに思っています。また、パフォーマンスやセキュリティなどの各種機能についても妥協はしません。これは、マイクロンがサステナビリティを重視しつつ、最高のテクノロジーを提供することを信条としているからです。マイクロンのCEOであるサンジェイ・メロートラは次のように述べています。「サステナビリティはマイクロンのビジョン、ミッション、価値の中核であるだけでなく、私たちの長期戦略計画にとっても不可欠な要素です。さらに、業界全体でサステナビリティの向上を牽引する責任も担っていると考えています」8。まさにサンジェイの言うとおりです。

AIは人類に多くの機会やメリットをもたらすでしょう。マイクロンもサステナビリティへの取り組みを継続していきます。社会や地球への影響を真摯に受け止めているマイクロンにとって、これらの取り組みなくして、私たちの活動は成り立たないのです。

1世界の人工知能サーバー市場(2023年版):金額および出荷数、サーバータイプ(データ、トレーニング、推論、その他)、AIサーバーインフラストラクチャー、ハードウェアアーキテクチャー、エンドユースごと、および地域・国ごとに分析:市場に関するインサイトと予測(2019~2029) | Research and Markets | researchandmarkets.com
2データセンターおよびデータ伝送ネットワーク | 国際エネルギー機関 | iea.org
3マイクロン、 業界最先端HBM3Eソリューションの量産開始、AIの成長を加速 | マイクロンテクノロジー | micron.com
4128GB DDR5 RDIMMの製品概要 | マイクロンテクノロジー | micron.com
5マイクロン、 2種類のデータセンター向けSSDでストレージを新たなレベルへと進展 | マイクロンテクノロジー | micron.com
6SNIAソリッドステートストレージパフォーマンステスト仕様「エンタープライズv1.1」で定義された定常状態、ドライブの書き込みキャッシュが有効、NVMeの電源状態が0、キュー深度32でのフレキシブル入出力(FIO)を使用して測定されたシーケンシャルワークロード
77.68TB SSDの比較 — Micron 9400 SSD:4Kランダム読み込みで94,118 IOPS/ワット。前世代のMicron 9300 NVMe SSDで53,100 IOPS/ワット
8マイクロンCEOからのメッセージ | 2023年マイクロンサステナビリティレポート | マイクロテクノロジー | micron.com

Sr. Director, Solution Marketing

Larry Hart

As the Senior Director of Solutions Marketing for Micron’s Storage Business Unit, Larry Hart is deeply committed to creating and marketing impactful technology solutions. With a multifaceted background spanning pricing, product marketing, outbound marketing, product management, and ecosystem development, he leads our strategic efforts to drive better technological alignment within our ecosystem, communicate our solutions in the voice of our customers, and deliver maximum total business value to our customers.