無効な入力です。特殊文字はサポートされていません。
世界初の256GB SOCAMM2
マイクロンの画期的なモノリシック32Gb LPDDR5Xを搭載したSOCAMM2は、データセンターにおける低消費電力AIメモリの機能を拡張します。
注目のリソース
1 これらの結果は、500Kのコンテキスト長を使用した同時ユーザー数16人のLlama3 70Bモデル(FP16量子化)によるリアルタイム推論のマイクロン社内テストに基づいています。予測されるTTFTレイテンシーの改善は、CPUあたり2TB LPDRAMのレイテンシーが0.12秒、CPUあたり1.5TB LPDRAMのレイテンシーが0.28秒であることに基づいています。
2 これらの結果は、推定されるAIユースケースと条件を前提とした、マイクロン社内のLPDDR5x電力計算ツールに基づいています。