デザインツール
高帯域幅メモリ

HBM3E

生成AIイノベーションを推進する業界最速で大容量の高帯域幅メモリ(HBM)

pause

本番環境対応Micron HBM3E 12層積層36GBキューブの提供を開始

現代の生成AIモデルは、より良い結果を出力し新たな機会に対応していくために、増え続ける膨大な量のデータを必要とします。業界をリードするマイクロンの1β(1ベータ)メモリテクノロジーと最先端のパッケージングがあれば、GPUの入出力データフローを最大限に効率化できます。競合製品に比べ、マイクロンのHBM3Eメモリキューブ(8層積層/12層積層)は消費電力を約30%削減し、AIイノベーションをさらに推し進めます。マイクロンの8層積層24GB HBM3Eは、NVIDIA H200 Tensor Core GPUに搭載されます。ほかにも、本番環境向けの12層積層36GB HBM3Eもご用意しました。

マイクロンのHBM3Eマルチチップ積層

Micron HBM3E | AI用高帯域幅メモリ

AIを取り巻く環境は急速に進化しています。消費電力が競合製品よりも30%少ない業界最高効率の高帯域幅メモリ、Micron HBM3Eなら、その変化に対応できます。生成AIのイノベーションをさらに推し進めるために作られたHBM3Eは、帯域幅が1.2TB/秒を超え、電力効率も優れています。マイクロンがいかにしてAIの未来を形作り、データセンターやエンジニアリング、医療などの分野の進化を推し進めているかご覧ください。これらのすべてでマイクロンのHBM3E製品が活用されています。

リンク先のYouTube動画のHBM3e SSDのスクリーンショット

AIイノベーションの推進スピードを加速

生成AI

上の画像のように、生成AIは大規模言語モデル(LLM)を用いた学習と推論により、新たな創造性と表現の世界を切り開きます。コンピューティングリソースとメモリリソースの活用で、デプロイ時間と応答時間に違いを生み出します。Micron HBM3Eは、ChatGPT™のようなLLM推論において、大容量のメモリを提供することで、パフォーマンスを向上させ、AI関連のCPU負荷を削減します。これにより、より迅速な学習とレスポンシブなクエリ処理が実現されます。

クリスタルでできた宇宙飛行士の3Dイラスト

ディープラーニング

AIは、ビジネス、IT、工学、科学、医療などに新たな可能性をもたらします。ディープラーニングの進化とともに大規模なAIモデルが普及する中で、より多くの人々が恩恵を受けるためには、性能、コスト、消費電力の最適化がますます重要になっています。マイクロンのHBM3Eは、メモリ性能を向上させる一方で、ワットあたりの性能を向上させるエネルギー効率に重点を置き、GPT-4以降のLLMの学習時間の短縮を実現します。

水色、ピンク、黄色のデータの流れが組み合わさり、右側に変形したデータセットの形が表示されている

高性能コンピューティング

科学者、研究者、エンジニアは、気候のモデル化、がんの治療、再生可能で持続可能なエネルギー資源の解決策を見つける難題に取り組んでいます。高性能コンピューティング(HPC)は、大規模なデータセットを使用する非常に複雑なアルゴリズムや高度なシミュレーションの実行を可能にし、解決策の発見を推し進めます。マイクロンのHBM3Eは、より大容量のメモリを提供するほか、複数のノードにデータを分散する必要性を減らすことでパフォーマンス向上を実現し、イノベーションのペースを加速させます。

薄暗い部屋の中、タブレット上でタッチペンを使いカラフルで抽象的なデザインを制作しているアーティスト

業界最高のプロセステクノロジーでAIとスーパーコンピューティングのために構築されたHBM3E

マイクロンはHBM3Eにより、データセンター製品ポートフォリオ全体を通して業界最高峰のパフォーマンスを展開します。パッケージのフットプリントは前世代と同じでありながらデータレートの高速化、熱応答の改善、モノリシックダイ密度の50%向上を実現しました。

マイクロンHBM3Eシングルチップ

業界最高のプロセステクノロジーでAIとスーパーコンピューティングのために構築されたHBM3E

HBM3EがAIコンピュートコアを強化するメモリ帯域幅を提供

高度なCMOSイノベーションと業界をリードする1βプロセステクノロジー。Micron HBM3Eは、1.2TB/秒を超える高いメモリ帯域幅を提供します1

AIゴーグルをつけた女性のぼやけた画像

HBM3Eが生成AIの世界を解き放つ

メモリ容量が50%増えた28層積層24GBキューブにより、HBM3Eはより高精度で正確な学習を可能にします。

ネオンが背景の水しぶき

HBM3EがAIおよびHPCワークロードに対するワットあたりの性能向上を実現

マイクロンでは、熱インピーダンスを低減するエネルギー効率の高いデータパスを設計し、前世代と比較して2.5倍以上の性能/ワット3向上を実現しました。

紫のネオンカラーに包まれたモダンで高度なテクノロジーのサーバールームの生成AIイラスト

HBM3Eがマルチモーダル、兆単位パラメーターAIモデルの学習を推進

システムレベルのパフォーマンス向上につながるメモリ帯域幅の増加により、HBM3Eは学習時間を30%以上短縮し4、1日当たり50%以上多いクエリ処理を可能にします5、6

AIまたは人工知能技術を使用したチャットボットとのチャット。ノートパソコンを使用して高知能の人工知能とチャットし自分が知りたい答えを聞く女性

マイクロンのHBM3E:コンピューティングの可能性を解き放つ過去に前例のない基盤

Micron HBM3EはAIイノベーションを推進する速度、容量ともにトップクラスの高帯域幅メモリであり、8層積層24GBキューブで1.2TB/秒を超える帯域幅と優れた電力効率を実現しています。マイクロンは、AI用メモリ/ストレージのイノベーションにおいて信頼できるパートナーです。

Cropped shot of African American data engineer holding laptop while working with supercomputer in server room lit by blue light, copy space

エンジニアリングレポート:LLMのパフォーマンスにおけるHBMの影響

よくある質問

マイクロンの8層積層24GBおよび12層積層36GBのHBM3Eは、1.2TB/秒を超える帯域幅で業界最高峰の性能を実現し、消費電力は市場における他の競合製品よりも30%削減されています。

8層積層24GBのHBM3Eは、2024年第2四半期からNVIDIA H200 Tensor Core GPUに搭載されます。12層積層36GBメモリのHBM3Eは、現在サンプル出荷を行っています。

マイクロンの8層積層および12層積層のHBM3Eは、ピンあたり9.2Gbps超という業界最高峰のスピードを実現しています。また、HBM2の第1世代デバイスのデータレートと互換性があります。

マイクロンの8層積層および12層積層のHBM3Eは、配置あたり業界最高峰の1.2TB/秒を超える帯域幅を提供しています。HBM3Eには1024のIOピンがあり、9.2Gbpsを超えるHBM3Eのピン速度は1.2TB/秒を超えるレートを実現しています。

マイクロンの業界最高峰の8層積層HBM3Eは、配置あたり24GBの容量でご利用いただけます。最近発表されたマイクロンの12層積層のHBM3Eキューブは、配置あたり36GBという驚異的な容量を実現しています。

マイクロンの8層積層および12層積層のHBM3Eは、配置あたり業界最高峰の1.2TB/秒を超える帯域幅を実現しています。HBM3Eには1024のIOピンがあり、9.2Gbpsを超えるHBM3Eのピン速度は1.2TB/秒を超えるレートを実現しています。

HBM2は、ピンあたり3.6Gbpsで動作し最大410GB/秒の帯域幅を実現する8つの独立したチャネルを提供します。また、4GB、8GB、16GBの容量からお選びいただけます。HBM3Eでは、16の独立チャネルと32の疑似チャネルをご利用いただけます。マイクロンのHBM3Eは、配置あたり1.2TB/秒を超える業界最高峰の帯域幅で9.2Gbps以上のピン速度を実現しています。マイクロンのHBM3Eは、8層積層で24GB、12層積層で36GBの容量となります。マイクロンのHBM3Eは、競合製品よりも30%低い消費電力でご利用いただけます。

製品概要をご覧ください。

注目のリソース

1.   製造テスト環境で実施したピン速度のシュムープロットに基づいたデータレートテストの推定値。
2. 同じ積層数で容量が50%アップ。
3.   ワークロード使用例のシミュレーション結果に基づいた消費電力と性能の推定値。
4.   現在の出荷プラットフォーム(H100)と比較した、ACMの出版物を参照したマイクロンの内部モデルに基づく。
5.   バーンスタインの調査レポート『NVIDIA (NVDA): A bottoms-up approach to sizing ChatGPT opportunity(エヌビディア、ボトムアップ・アプローチによるChatGPT機会の見極め)』(2023年2月27日発行)を参照したマイクロンの社内モデルと現在の出荷プラットフォーム(H100)との比較に基づく。
6.   市販のH100プラットフォームを使用したシステム測定と直線外挿法に基づく。

カスタマーサポート

マイクロンに連絡する必要がある場合は、サポートチームにお問い合わせいただき、各地域の連絡先情報を入手してください。

データシートを検索、フィルター、ダウンロードする

製品の特性、仕様、機能などに関する詳細な情報を知ることができます。

マイクロンのサンプルを注文する

マイクロンのメモリサンプルの発注と注文の追跡をオンラインで行うことができます。

ダウンロードと技術資料

お客様の革新的な設計、テスト、構築、最適化をお手伝いするリソースをご利用いただけます。