刻々と…
動画がアップロードされます。ストリーミングが開始されます。写真が共有されます。あらゆる瞬間の裏側で、データが生成、移動、保存、提供されています。瞬時に、シームレスに、そして大規模に。以下に示すようなデータの増加状況から、AIインフラに課される要求と、データを絶え間なく移動させる上でメモリとストレージが果たす極めて重要な役割が浮き彫りになります。
あらゆるデジタルデータは、作成、保存、提供、学習という同じ道筋をたどります。
- 近接メモリ
- メインメモリ
- ディスアグリゲーテッドメモリ
- SSDデータキャッシュ
- ネットワーク化されたデータレイク
あらゆるAIワークロードに最適なメモリとストレージ
動画のアップロード、AI応答の生成、レコメンデーションの提供はすべて、複数のメモリおよびストレージ階層を通じたデータの流動性に依存しています。それぞれの層で最適なテクノロジーを採用することが、AIアシスタント、パーソナライズされたエクスペリエンス、そして現実世界での成果を生み出す原動力となります。
ピラミッドを動かして、AIパイプラインのあらゆる段階にマイクロンがどのように対応しているかをご覧ください。
箱の中を見てみる
よくある質問
従来のデータセンターが幅広いビジネスアプリケーションに対応しているのに対し、AIデータセンターは、より高度な演算能力、メモリ帯域幅、ストレージパフォーマンス、およびネットワーク容量を必要とするAIワークロード向けに最適化されています。AIモデルの複雑化に応じて、AIデータセンターは、より高いパフォーマンス、接続性、効率性を備え、より大規模なワークロードを支えるように設計されています。AIデータセンターを構築・運用する企業の多くは、GPUアクセラレーション対応サーバー、高度な冷却システム、高速ネットワーキング、および高性能なメモリやストレージを導入し、AIパイプラインにおけるデータの流動性を効率的に維持しています。
AIデータセンターは、高性能サーバーのクラスターを使用して、大量のデータを処理・保存します。データはストレージからメモリへと移動し、AIモデルによって処理された後、生成AI、アナリティクス、機械学習、推論といったアプリケーションの出力として提供されます。パフォーマンスと効率を維持するため、コンピューティング、メモリ、ストレージ、ネットワーキング、電源、冷却システムが統合型のパイプラインとして連携します。この連携により、企業はAIを活用したサービス、インサイト、エクスペリエンスを効率的に提供することができます。メモリやストレージといったテクノロジーは、AIパイプライン全体を通して重要な役割を担います。
AIインフラとは、企業におけるAIアプリケーションの開発、学習、導入、実行に必要なハードウェア、ソフトウェア、ネットワーク、メモリ、ストレージ、電源システムを指します。これはAIライフサイクル全体を支える基盤であり、企業が膨大なデータをAIによるインサイトやサービスへと大規模に変換できるよう支援します。AIインフラは、コンピューティング、ネットワーキング、メモリ、ストレージテクノロジーを統合し、AIエクスペリエンス、インサイト、サービスを支えます。大手クラウドプロバイダーやテクノロジー企業の多くは、膨大な演算ワークロードに対応するよう設計された巨大な施設である、ハイパースケールデータセンターを運用しています。より小規模な企業では、自社のデータセンターを建設・維持する代わりに、コロケーション施設を利用し、機器を設置するためのスペース、電力、冷却機能を借りているケースが多く見られます。
サーバーラックとは、サーバー、ストレージシステム、ネットワーク機器、電源コンポーネントを収容する、標準化されたエンクロージャです。AIデータセンターにおけるサーバーラックには、大規模なAIワークロードを支えるために必要なコンピューティング、ネットワーキング、メモリ、ストレージテクノロジーが集約されています。AIサーバーラックには多くの場合、高密度GPUサーバー、高速ネットワーキング、高度な冷却テクノロジーに加え、AIパイプライン全体で効率的なデータフローを維持するためのメモリおよびストレージシステムが搭載されています。
AIシステムは、大量のデータへの高速アクセスに依存します。そのため、メモリとストレージがAIのパフォーマンスにおいて極めて重要な役割を果たします。メモリは、アクティブなデータをプロセッサーの近くに保持することで、AIアプリケーションが応答の生成、意思決定、ワークロードの処理をリアルタイムで行えるよう支援します。ストレージは、AIライフサイクルを支えるトレーニングデータ、AIモデル、および出力を保持します。メモリとストレージは、AIパイプライン全体を通じて企業がデータを効率的に移動、処理、保存、取得できるようにする役割を担います。AIワークロードが大規模化・複雑化するにつれ、パフォーマンス、効率性、拡張性を実現する上で、メモリとストレージの適切な組み合わせが極めて重要になります。
最適なメモリおよびストレージソリューションはAIワークロードによって異なりますが、ほとんどのAIデータセンターでは、高帯域幅メモリ、DRAM、高性能SSDが組み合わされています。AIワークロードごとに、帯域幅、容量、レイテンシー、電力効率に関する要件が異なります。そのため、AIパイプラインの各段階に適したメモリおよびストレージテクノロジーが必要になります。これらのテクノロジーが連携することで、ボトルネックが軽減され、効率性が向上し、最新のAIワークロードに必要なパフォーマンスが実現します。マイクロンは、AIインフラ向けに設計されたメモリおよびストレージソリューションを提供しています。マイクロンのHBMは、AIアクセラレーターに必要な帯域幅を確保し、マイクロンのDDR5 DRAMは、メモリ負荷の高いサーバーワークロードに対応します。また、マイクロンのデータセンター向けSSDで、AIデータセットやモデルに高速かつ高い信頼性でアクセスできます。これらのテクノロジーが連携することで効率的なデータフローを維持し、AIの学習、推論、データ処理の高速化が可能になります。
マイクロンとともにAIの可能性をさらに探る
- Statistaによると、TikTokのプラットフォームには全世界で毎分16,000本のショート動画がアップロードされています。TikTok - statistics & facts | Statista.
- レポートによると、2025年、YouTubeには毎分平均500時間の動画(約2,500本)が全世界からアップロードされていました。2026年YouTube統計データ [国別 + 人口統計属性別ユーザー数]。
- Tech Business Newsによると、2025年、全世界で1日あたり平均4億274万テラバイトのデータが作成されました。これには、新たに生成、キャプチャ、コピー、または消費されたデータが含まれます。402,740,000TB / 1,440分 = 279,680.56 TB/分、または約279,600TB。毎日4億274万テラバイトのデータが作成される(2025年)。
- HBM4 12-highとHBM3E 12-highの比較。電力効率は、同程度の速度における1ビットあたりのピコジュール(pJ/bit)で測定。
- ACMの論文を参照したマイクロンの社内モデルに基づく(H100プラットフォームとの比較)。
- 128GB(前世代)のSOCAMM2との比較。
- これらの結果は、500Kのコンテキスト長を使用した同時ユーザー数16人のLlama3 70Bモデル(FP16量子化)によるリアルタイム推論のマイクロン社内テストに基づいています。予測されるTTFTレイテンシーの改善は、CPUあたり2TB LPDRAMのレイテンシーが0.12秒、CPUあたり1.5TB LPDRAMのレイテンシーが0.28秒であることに基づいています。
- これらの結果は、推定されるAIユースケースと条件を前提とした、マイクロン社内のLPDDR5x電力計算機に基づいています。
- LPDDR5Xのデータレート8,533Mb/秒と比較
- 前世代製品との比較
- 128GB MRDIMM 8800 MT/sと128GB RDIMM 6400 MT/sを比較したIntelメモリレイテンシーチェッカー(Intel MLC)の実測データ。
- 128GB MRDIMM 8800 MT/sと128GB RDIMM 6400 MT/sを比較した実測のStream Triadデータ。
- 128GB MRDIMM 8800 MT/sと128GB RDIMM 6400 MT/sを比較した実測のOpenFOAMタスクエネルギーデータ。
- パフォーマンス上の利点は、9,200MT/秒と6,400MT/秒の製品を比較して算出されています。
- 動作電力はワット単位で測定。9.7Wで動作する128GBモジュール2枚(計19.4W)と、11.1Wの256GBモジュール1枚を比較して算出。
- 9650 SSDは、発表時点で唯一利用可能なGen6 SSDです。SSDの比較は、Forward Insights社のアナリストレポート「SSD Supplier Status Q1/25」に基づいています。比較対象は、2025年5月時点で売上高上位5社の競合OEMデータセンターSSDサプライヤーが現在生産し、流通しているメインストリームデータセンターSSDです。
- マイクロンの前世代ドライブである9550 SSDと比較して、9650 SSDの最大消費電力は25Wで同じまま、パフォーマンスが2倍になり、エネルギー効率が向上しました。
- 1Uあたりの容量がE3.Lの場合:(SSD 1台あたり245TB)×(2Uサーバー1台あたり40台のSSD)で、36U分のラックスペースをサーバーで埋めた場合、1Uあたり4.9PBとなります。E3.S:(SSD 1台あたり122TB)×(1Uサーバー1台あたり20台のSSD)で、36U分のラックスペースを使用した場合、1Uあたり2.45PBとなります。