メモリとストレージはいかにしてAI時代の基盤となったか

AIをめぐる主流の見方は、この時代の象徴となったGPUとアクセラレーターを中心としたものでした。最も大規模なモデルをトレーニングすることが目標であった時期には、この見方は理にかなっていました。ところが今では、それだけで全体像を把握することはできません。2026年中盤の時点で、システムパフォーマンスは単に演算能力だけでなく、データの移動、レイテンシー、帯域幅によっても決まる傾向が強まっています。

現在では、今後10年の状況を決定づけるものは、メモリとストレージであると考えられています。AIはもはや、演算能力だけで決まるものではありません。データの移動、アクセス、処理の効率性によって制約を受けます。この変化により、AIインフラの構築方法、投資の対象、AIの効果的な拡大方法など、すべてが変わります。

AIインフラで見過ごされてきた変化

2023年には、AIコンピューティング支出のおよそ3分の2が、トレーニング（学習）に費やされていました。この比率は2026年末までに逆転し、推論（AIを展開し、現実世界で機能させること）がAIコンピューティング支出全体の3分の2を占めるようになると予測されています¹。

もはや、誰が最大規模のモデルをトレーニングできるかは問題ではありません。効率的かつ経済的にAIを大規模展開できるのは誰か、という点が鍵となります。これは、AIインフラを計画するリーダーがメモリとストレージを、コンピューティングに関する意思決定の後に付け足される補助的なものではなく、戦略的な設計の選択肢として評価していることを意味します。

この変化は、AIインフラ環境の根本的な再構築を表します。AIが断続的なトレーニングから、常時稼働の推論やエージェント型ワークロードへと移行する中、実用的な電力および熱制限の範囲内で、AIワークロードを継続的かつ高速に支える能力によって、明暗が分かれようとしています。その課題の中心に位置するのが、メモリとストレージです。

IDC（International Data Corporation）による分析が、これを裏付けています。アクセラレーターの活用は、持続的な高帯域幅かつ低レイテンシーのデータアクセスに依存しています。その一方で、AIのスケーラビリティに対する主な制約要因として、データの移動とローカル性の問題が浮上しています²。

4つのワークロード、1つの基盤

AIの導入が拡大するにつれ、インフラの要件は、それぞれ独自の要求と成長軌道を持つ、以下の4つの異なるワークロードによって形成されつつあります。

• トレーニング：GPU主導かつ計算集約型の集中処理であり、継続的な成長を見せているものの、その成長率は25%です³。
• 推論：ユーザーに近い場所に分散配置することで効率性を高めると同時に、メモリ容量と帯域幅のバランスが強く求められるようになっています。年平均成長率79%と予測され、最も急成長しているワークロードです⁴。
• エージェント型：永続的な状態を維持しながら継続的に動作し、多段階の自律的タスクをオーケストレーションします。そのため、単純なチャットボットへのクエリと比べて、メモリ、コンテキスト、データアクセスに関してはるかに高い要件が求められます。Gartnerの予測によると、2026年末までにエンタープライズアプリケーションの40%にAIエージェントが組み込まれるようになる見通しです。この数字は、わずか数年前には約5%でした⁵。これらのエージェントには、膨大なメモリ容量（例：永続的なキーバリュー［KV］キャッシュ、100万トークンを超えるコンテキストウィンドウなど）が必要であり、ハイブリッドクラウドとエッジインフラ全体で同時に実行することが想定されています。
• 汎用コンピューティング：CPU中心で、緩やかに成長しています。これにより、CPU、アクセラレーター（GPUなど）、メモリ、ネットワーキングがそれぞれ重要な役割を果たす、バランスのとれたシリコンスタックの全体像が完成します。

その結果、業界は「GPUスーパーサイクル」から、メモリ、CPU、ネットワーキングがアクセラレーターと同じ程度の戦略的な重要性を帯びる、バランスの取れたシリコンスタックへと移行しています。

以上の各ワークロードに、同様のパターンが現れつつあります。単に利用可能な演算リソースの量だけでなく、データがどれほど効率的にメモリとストレージを移動できるかによって、AIのパフォーマンスが決まる傾向が強まっています。

効率の方程式

全世界のデータセンターの電力消費量は、2024年の約415テラワット時から、2026年には約1,000テラワット時に増加すると予測されています。AI需要により、2027年までに冷却だけで42億〜66億立方メートルの水が消費される可能性があります。ラックの電力密度はすでに2倍以上に増加しており、AIトレーニングクラスターは1ラックあたり80〜120キロワットに迫ろうとしています⁶。

しかし、効率曲線は大方の予想を上回るペースで上向いています。その牽引役となっているのがメモリです。ここでは、IDCの視点が特に有益です。AIインフラではワットあたりのパフォーマンスが決定的な指標になりつつあります。電力供給や熱的な制約によって、AIインフラの導入がますます制約を受けるようになっているためです。このような環境では、効率的なメモリとストレージは、単なる技術的な補足ではありません。AIのスケーラビリティ、アクセシビリティ、コスト効率を高める、重要な要因になりつつあります。このトレンドを具体的に示すいくつかの例を、マイクロンのポートフォリオからご紹介しましょう。

• Micron HBM3Eは、競合製品と比較して消費電力を30%削減すると同時に、メモリ容量を50%向上させています⁷。
• マイクロンの1γ（1ガンマ）プロセスノードは、極端紫外線（EUV）リソグラフィを採用した最先端技術であり、DDR5ソリューションのパフォーマンスを15%高速化するとともに、エネルギー効率を有意に向上させています⁸。
• 卓越したワットあたりのパフォーマンスを実現するLPDDR5Xは、効率性が設計の最優先事項となる推論やAIワークロードに最適です。
• HBM4は現在量産体制に入っており、HBM3Eと比べて50%以上のパフォーマンス向上が見込まれ、引き続き電力効率で業界をリードしています⁹。

これらは単なる段階的な向上ではありません。AIの複合的な成長に並行する、効率性における複合的優位性です。このトレンドをさらに加速させているのが、液冷です。直接液冷はチップレベルで熱を除去することにより、水の使用量と電力消費量を削減し、あらゆるラック、施設、地域で相乗効果をもたらす好循環を生み出します¹⁰。

AIが身近なものになると

AIの推論コストは急激に低下しています（2年間で約280分の1）。しかし、単位あたりのコスト削減を上回るスピードで利用規模が拡大しているため、企業のAI支出は増加を続けています¹¹。AI導入の経済性向上を背景に、医療、研究、物流、日常業務といったあらゆる分野で、インテリジェンスを活用する新たな方法を企業が模索しています。このトレンドで重要な役割を担っているのが、メモリとストレージです。データ移動の高速化、利用率の向上、インフラの効率化により、AIの提供に必要なコストが削減され、より多くのユースケースにおける幅広い導入が可能になります。

• 製造業では、従来は継続的な運用コストが高すぎて実現できなかったAI支援による品質検査を導入できるようになります。
• 地方の診療所でも、AI支援による診断に手が届くようになります。
• 資金が不足している研究機関の研究者も、従来はスーパーコンピュータへのアクセスが必要だったモデルを実行できるようになります。

これは専門知識の民主化です。しかも、遠い未来の話ではありません。膨大なメモリとストレージを必要とするエージェント型AIが、これを可能にしています。AIの利用が急速に拡大し、インテリジェンスの導入コストが低下する状況の中で、そうした大規模な拡大を可能にする要因として、メモリとストレージの戦略的な重要性がさらに高まっています。データのボトルネックを排除した企業は、AIの価値を最大限に引き出す上で最も有利な立場になるでしょう。

メモリとストレージが実現する未来

以下に示す3つの力が収束し、AIインフラの状況がすでに変わりつつあります。

1. シリコン効率 — メモリとストレージは、世代を重ねるごとにワットあたりのインテリジェンスをより多く提供するようになっています。
2. アーキテクチャーの進化 — 推論およびエージェント型AIノードは、ネットワークエッジに分散配置され、再生可能エネルギー源と併設されるようになっています。
3. ワークロードの成熟 — トレーニング（学習）から常時稼働の推論やエージェント型AIへ移行し、数百万に及ぶユースケースでAIの価値が発揮されるようになっています。

メモリがコンピューティングを支えます。効率的なメモリが、バランスの取れたシリコンスタックを支えます。そのスタックの上に築かれる未来とは、誰でも、どこにいても、AIがもたらす可能性にアクセスできる世界です。

IDCも、同じ結論を導き出しています。医療、研究、製造、物流、そして日常的な事業のあらゆる部分にAIが浸透していく状況の中、メモリやストレージを単なる後付けの要素ではなく、中核的なイネーブラーとして捉える企業こそが、AIの価値を最大限に引き出す上で最も有利な立場に立つことになるでしょう。

AIの未来は、どのようにインテリジェンスが生み出されるかだけでなく、それを必要とする人々、組織、地域社会に、いかに効率よく提供できるかによって形作られます。