液冷ストレージによってAIインフラのあり方が変わりつつある理由

すべてのAIアシスタント、提案、検索結果、インテリジェントアプリケーションの裏側には、最新のAIが要求する速度でデータを提供するために稼働しているインフラが存在します。AIインフラは、構築された時点での想定を上回るスピードで拡大しつつあります。ラックは高密度化しています。GPUはより強力になっています。最新のAIワークロードがもたらす熱負荷は、こうした環境を想定していない従来の冷却方式の限界を浮き彫りにしています。その結果、次のような現実の影響を伴うインフラの課題が生じています。コンポーネントが高温になると、スロットリングが発生し、パイプラインが停滞します。その結果、AIを高速かつ大規模に提供するように構築されたシステムが、ひそかに機能しなくなります。このためマイクロンには、単に高いパフォーマンスを発揮するだけでなく、最新のAIインフラがもたらす熱負荷の環境下でもその性能を維持できるストレージソリューションの設計が求められています。

この進化はすでに、あらゆる主要データセンターで進行しています。それに伴い、ストレージを含むスタックのあらゆる層に対する事業者の認識が変わりつつあります。最新のAIシステムの効率とパフォーマンスにおいて、冷却がどれほど重要かを理解することは、大規模なシステムの構築、運用、計画に携わるすべての人にとって、ますます不可欠になっています。

AIによって冷却技術の進化が加速している理由

データセンターの冷却は、いつの時代も中核的なエンジニアリング分野でした。最新のデータセンター施設では、ホットアイル／コールドアイルコンテインメント、ダイレクトチップ液冷、サーバーの完全液冷など、さまざまな有効な手法がすでに導入されています。こうしたアプローチは、業界にとって有益な役割を果たしてきました。しかし、AIがもたらす画期的な成果（新薬開発期間の年単位から月単位への短縮¹や、AIを活用した医用画像診断による癌の早期発見²など）に比例する形で、AIインフラに要求される条件は高度化しています。

AIによってラックの消費電力は増大し、進化の次なる段階へ移行せざるを得ない状況が生まれています。ハイエンドのAIサーバー用GPUは、すでに1チップあたり1,200ワットを超えています³。次世代のラック単位の消費電力予測は、1ラックあたり最大600キロワットに達しています⁴。これは、平均的な一般家庭数百軒分をまかなうほどの電力です。これほどの電力レベルになると、冷却はもはや単なる熱管理の問題ではありません。AIの実装環境を効率的に維持し、ユーザーが期待するエクスペリエンスをシステムが確実に提供できるようにする上で、冷却は極めて重要な要素となります。このような高密度化を背景に、AIインフラにおける経済性や熱管理上の要件から、ストレージを含むスタックのあらゆる層で、より高度な冷却技術の導入が加速しています。

熱という課題の要因は、GPUやCPUだけではありません。サーバー内のすべてのコンポーネントが電力および熱の許容枠を圧迫しています。その改善に向けて、それぞれ果たすべき役割があります。

熱およびパフォーマンス面での結果に対し、ストレージ（および液冷）が果たす役割

最新のAIサーバーにおいて、SSDはアクティブな冷却性能を持ちます。AIサーバーはますます高密度化しており、高性能なNVMe™ドライブ、すなわちAIワークロードの速度とスループットに関する厳しい要件に合わせて最適化されたSSDを、狭い筐体に数多く詰め込んでいます。ドライブごとに25ワット以上の電力を消費する場合も少なくありません。

大規模な構成になると、この集中した熱負荷は相当なものになります。

SSDが最適な動作温度を超えると、損傷を防ぐためにドライブは自動的に自身の動作を抑制します。この挙動は、サーマルスロットリングと呼ばれます。AIの推論や学習パイプラインの中で、ストレージ層でのスロットリングはボトルネックを生じさせ、その影響は上流にまで波及します。GPUはデータ待ちでストールし、演算サイクルは未使用のままになります。最も必要とされる時に能力を十分に活用できないにもかかわらず、事業者はその分のコストを負担することになります。事業への影響は明白です。負荷がかかってストレージがスロットルされると、GPUは待機状態になります。待機状態のGPUは、推論スループットを生み出さず、顧客へのサービスも提供せず、周囲のインフラへの設備投資に見合う価値をもたらしません。大規模にAIを運用する事業者にとって、このような演算リソースのアイドル時間は、単なる概念的な非効率性の問題ではありません。これによってインフラの稼働率が抑えられ、AIシステムが発揮できるパフォーマンスが低下します。

液冷は、この問題に直接対処します。コールドプレート液冷は、SSDエンクロージャに熱伝導性の金属ブロックを密着させることで機能します。冷却液（通常は水とグリコールの混合液）が、このブロックの内部に加工された流路を流れ、熱源から継続的に熱を奪います。温められた流体は施設の冷却ループ内を循環して冷却され、再び戻って同じプロセスを繰り返します。高密度に実装されたドライブベイの熱をエアフローで排出するのではなく、デバイス自体で直接冷却を行うため、持続的なピーク負荷がかかる状況下でも、ドライブの温度は最適な範囲内に保たれます。こうしてスロットリングが解消し、ストレージ層は設計通りのパフォーマンスを発揮します。

この効果の核心は、物理法則に由来します。液体は空気よりもはるかに効率的に熱を伝達します。水とグリコール系冷却液の熱容量と密度により、非常に大量のエアフローが運ぶのと同じ量の熱エネルギーを、はるかに少量の冷却液で運ぶことができます。小型の循環ポンプを使って少量の冷却液を循環させるだけで、本来なら大規模なファン設備を必要とするような冷却を実現できます。この効率性の違いこそが、データの説得力を裏付けています。

効率性の数値が示すもの

マイクロンは、AIおよびデータセンター環境で導入が進みつつある高密度ストレージ構成の代表例として、32台のNVMe SSDを搭載したバンクを対象に、空冷およびコールドプレート式液冷を使用して同等の冷却効果を得るために必要な電力をモデル化し、分析を行いました。結果は、両者の違いの大きさを示すものでした。空冷の場合、同じドライブバンクを冷却するのに37〜80ワットの電力が必要です。コールドプレート式液冷は、0.42〜1.35ワットで同等の冷却を実現します。つまり、約98%少ないエネルギーで同じ熱的成果が得られるということです⁵。

これは些細な改善ではありません。熱伝達媒体としての液体と空気の基本的な物理的特性の違いを反映した結果です。ドライブレベルでの冷却効率を高める効率上の優位性は、そのままデータセンター環境全体の冷却・運用に必要なエネルギーの削減にもつながります。

PUE（Power Usage Effectiveness）を理解する

PUE（Power Usage Effectiveness、電力使用効率）は、データセンターが商用電源をどれほど効率的に有用なコンピューティング処理へ変換しているかを評価するために、事業者や投資家が用いる指標です。PUEが1.0であれば、完全に無駄がないことを意味します。実際には、データセンターのPUEは従来、1.2から1.5超の範囲で推移してきました。これは、サーバーが実際に消費する電力量に加え、20〜50%増しの電力を事業者が調達していることを意味します。余剰分は、冷却システム、配電、施設運用などに費やされています⁶。

液冷は、PUEを低減するために利用できる最も直接的な手段の一つです。デバイスレベルで熱が除去されれば、施設のセントラル空調の負荷が軽減します。ファンの回転速度を下げることができます。演算サイクルあたりのエネルギーオーバーヘッドが減少します。ハイパースケール事業者にとって、PUEがわずかに改善するだけでも、エネルギー消費量と運用コストの大幅な削減につながる可能性があります。

AI推論の実装に、この事実は何を意味するか

大規模なサーバー環境で高密度ストレージを運用するAI推論の実装を想定してみましょう。従来の空冷方式では、推論による負荷がピークに達すると、熱的限界に近い状態で動作しているストレージドライブでサーマルスロットリングが発生し、GPUへのデータ転送速度が低下し始めます。データ待ちが発生したGPUは、部分的にアイドル状態となります。事業者は、需要が最も高くなるまさにその期間中、完全には活用されていない演算リソースに対し、コストを支払っていることになります。

同じストレージ構成にコールドプレート液冷を適用すれば、持続的なワークロード全体でドライブの温度が一定に保たれ、スロットリングが解消します。GPU稼働率が向上します。冷却オーバーヘッドは、ストレージシェルフ1台あたり数十ワットから2ワット未満へと低下します。大規模なシステムを常時稼働させる場合、この削減効果は積み重なって大きな意味を持ちます。

その因果関係は明確です。ストレージ層における熱のボトルネックを排除したインフラによって、利用可能なコンピューティング能力をより有効的に利用できます。エネルギー効率とパフォーマンス稼働率は、相反する目標ではありません。両者は互いに補強し合う関係にあります。

今後の展望

液冷SSDは、もはや未来志向のコンセプトではありません。演算時間、エネルギー、パフォーマンスの各面で、すでに事業者に負担を強いている問題に対する、実装可能な解決策です。AIインフラの構築に携わる方々にとって、GPU稼働率の向上、冷却に必要な余剰エネルギーの低減、そして持続的な需要の下での一貫したパフォーマンスを実現するための直接的なソリューションなのです。

AIワークロードが拡大を続ける状況の中で、その基盤となるインフラは、データを効率的に供給し、負荷がかかってもパフォーマンスを維持し、ユーザーが日常的に頼りにしているエクスペリエンスを支えるものでなければなりません。液冷ストレージは、この進化における重要な要素です。

AIデータセンター向けのメモリとストレージをマイクロンがどのように設計しているか、詳細についてはデータセンターインサイトのページでご確認ください。また、低消費電力DRAMがどのようにデータセンター用メモリを変革しているかを解説した関連記事もぜひご一読ください。