マイクロンのテクノロジーが、未来のAIデータセンターの実現を支援
- Near memory
- Main memory
- Expansion Memory
- Local SSD data cache
- Networked data lakes
AIデータセンターの潜在能力を解き放つ
どのAIサーバーボックスにも、高速かつ革新的なAIをサポートするメモリとストレージのピラミッドまたは階層が組み込まれています。マイクロンの最先端テクノロジーにより構築されたデータセンターで、ボトルネックの改善、サステナビリティと電力効率の向上、総所有コストの削減が実現します。
ピラミッドを使ってマイクロンのAIポートフォリオを詳しく調べる
箱の中を見てみる
最先端のテクノロジーも、美しい地球環境があってこそ
よくある質問
AIのワークロードには高い計算能力が必要で、大量の熱を発生させることから、強固なインフラストラクチャの更新が欠かせません。そのため最新のAIデータセンターは、最先端の冷却技術、再生可能エネルギー源、最適化されたレイアウトで設計され、最大限のパフォーマンスとサステナビリティを可能にしています。また、AIアプリケーションは複雑な計算を効率的に処理する必要があることから、専門のハードウェアに依存することが多く、適切なCPUとGPUの選択も極めて重要になります。このように慎重に選択することで、エネルギー消費を最小限に抑えながら処理能力を最大限に高めることができ、AIデータセンターの全体的な効率と有効性も向上します。
マイクロンの8層積層24GBおよび12層積層36GBのHBM3Eは、1.2TB/秒を超える帯域幅で業界最高峰の性能を実現し、消費電力は市場における他の競合製品よりも最大30%削減しています。
AIデータと機械学習データのワークロードでは、メモリがシステムの全体的な性能を決定する重要な役割を果たします。AIデータと機械学習データのワークロードに向くとされる2つの有力なメモリタイプは、高帯域幅メモリ（HBM）とダブルデータレート（DDR）メモリ、特にDDR5です。どのメモリがAIトレーニングデータのワークロードに最適であるかは、AIモデルトレーニングアルゴリズム固有の要件、自動データ処理の規模、全体的なシステム構成など、様々な要因によって異なります。HBM3EとDDR5はどちらも重要なメリットがあります。どちらが適しているかは、個々のAIメモリのユースケース、予算、使用できるハードウェアオプションによります。マイクロンは、AIモデルトレーニング用として最新世代のHBM3EおよびDDR5を提供しています。
HBM3Eメモリは、革新的なアーキテクチャーと高帯域幅対応能力を備えた、帯域幅、速度、エネルギー効率の点で最もハイエンドのAIモデルトレーニングソリューションです。AIトレーニング用DDR5メモリモジュールの方が一般的に主流であり、HBMソリューションより良好なコスト効果が得られます。
AIワークロードにとって総容量が最も重要な要素となる場合、CXL規格を採用したMicron CZ120メモリ拡張モジュールにより、ダイレクトアタッチメモリチャネルを超える最適化されたパフォーマンスが可能になります。
理想的な機械学習データおよびAIモデルストレージソリューションを選ぶには、複数の要素を考慮する必要があります。速度、パフォーマンス、容量、信頼性、耐久性、スケーラビリティを考慮することが重要です。AIのワークロードに最適なインテリジェントストレージソリューションは、用途、予算、全体的なシステム構成などの条件よって異なります。マイクロンは、機械学習データやAIモデルのストレージニーズに最適な、クラス最高のNVMe SSDを提供しています。世界最速のデータセンターSSDであるMicron 9550 NVMe SSDは、業界をリードするイノベーションによって構築されており、AIやそれ以外の用途に向けてPCIe® Gen5の優れたパフォーマンス、柔軟性、セキュリティを実現します。Micron 6500 ION NVMe SSDは、ネットワークに接続されたデータレイクに最適な大容量ソリューションです。
1 従来の1αノード世代との比較。
2 JEDEC規格に基づく。
3 市販されている競合3DSモジュールと比較した際の測定データ（pJ/ビット）(2023年6月)。
4 128GB MRDIMM 8800MT/秒と128GBレジスタードメモリ6400MT/秒を比較したIntelメモリレイテンシーチェッカー実証データ。
5 128GB MRDIMM 8800MT/秒と128GBレジスタードメモリ6400MT/秒を比較した実証的Stream Triadデータ。
6 128GB MRDIMM 8800MT／秒と128GBレジスタードメモリ6400MT/秒を比較した実証的OpenFOAMタスクエネルギー。
7 LPDDR5Xのデータレート8533 Mbpsと比較
8 前世代製品との比較
9 12チャネルの4,800MT/秒レジスタードメモリに4x256GB CZ120を採用した場合とレジスタードメモリのみの場合のMLC帯域幅の比較。
10パフォーマンスの比較は、1 DWPD 7.68TB 容量のSSDを搭載した性能重視の第5世代SSDに関する製品販売時の公開データ情報に基づく。QD512におけるシーケンシャルおよびランダムスループット。複数の公開情報によると、NVIDIA H100 GPUを使用したグラフニューラルネットワーク（GNN）のトレーニングワークロードにおいて、https://www.tomshardware.com/news/nvidia-unveils-big-accelerator-memory-solid-state-storage-for-gpusやGPU-Initiated Direct Storage（GIDS）などのBig accelerator Memory（BaM）について、マイクロンのラボで性能重視のGen5 SSDとの比較テストが行われたことが言及されている。
11 Micron 6500 ION、Samsung BM1743およびSolidigm D5-P5336の公開データシートの仕様比較に基づく。
12 Micron 6500 IONおよびSeagate® Exos X20 HDD（20TB）の公開データシート上の128KBシーケンシャル書き込み仕様に基づく。100TBの取り込み中に、両方のドライブが定格仕様を逸脱することなく維持されることを想定。
13 テキサス州オースティンにあるマイクロンデータセンターのワークロードエンジニアリングチームが実施したテストに基づく。テストされた競合製品は、30.72TB Solidigm® D5-P5316（2024年7月時点で、市場で最高のパフォーマンスを誇るQLC SSD。AIストレージのワークロードの重要な指標である書き込み/読み込み帯域幅のデータシート仕様に基づく）。競合他社が最近リリースしたSSDの書き込み帯域幅性能レベルが低いことを考慮すると、実際のMicron 6500 IONの書き込み性能の差は、記載されている値よりも高くなる可能性がある。