AIワークロードがデータセンター需要の中心になりつつある中で、汎用サーバーやAIサーバーにおける重要な制約も変化しています。1ラックあたりでどれだけ実効的な処理を行えるかは、今では単純な計算能力だけでなく、電力や熱の許容範囲にも左右されるようになっています。LPDDR5Xと新しいSOCAMM2モジュラーフォームファクタがデータセンターで大きなメリットを発揮し始めているのは、まさにこの制約領域です。SOCAMM2は、低消費電力DRAMの効率性と高密度性を、サーバー向けに設計されたモジュール式で保守可能なモジュールとして提供します。これにより、これまでは実用化が難しかったシステムアーキテクチャーへの道が開かれます。
しかし、スライド上では優れたアイデアに見えても、それが実証済みのソリューションであるとは限りません。そこで私たちは、さらに踏み込んだ問いを立ててみました。「このメモリを実際のデータセンターのワークロードに適用した場合、どのような違いが生まれるのか？」という問いです。
その答えを信頼できる形で得るには、緊密なコラボレーションが必要でした。マイクロンのデータセンターワークロードエンジニアリングチームは、Metaのエンジニアと緊密に連携し、ハイパースケール環境全体の本番環境を反映したMetaのオープンソースベンチマークスイート「DCPerf」を使用しました。このパートナーシップがあるからこそ、今回の結果は注目に値します。測定結果は、実際のデータセンター環境を反映したワークロードに基づいているためです。
私たちは、メモリテクノロジーがデータセンターに適しているかどうかを左右する要素、すなわち帯域幅、レイテンシー、容量、電力効率について検証しました。今回の取り組みでは、大容量構成を含むLPDDR5Xが、これらの各要素にどのような影響を及ぼすのかを明らかにしました。検証結果には、驚くべきものもありました。特に、容量の制約を受けているワークロードに十分なメモリを割り当てると何が起こるのか、という点です。
得られた結論はシンプルです。データセンターのメモリに求められているものは、もはや単に速度や容量ではありません。重要なのは、適切なメモリを適切なワークロードに合わせることです。そしてSOCAMM2は、システムデザイナーにまったく新しい選択肢をもたらします。
ここでは詳細には立ち入りません。手法、ワークロード、数値を含む詳しい内容は、Metaと共同で発行したホワイトペーパーに記載されています。電力上限、容量制限、AIインフラのスケーリングに伴う経済性といった課題に取り組んでいる方には、一読の価値があると思います。
ホワイトペーパーを読む：『大規模データセンター導入環境における汎用およびAIワークロード向けLPDDR』
