マイクロンは、第6世代AMD EPYC™による世代間の性能向上を、エージェント型アプリケーションサーバーのワークロードで検証しました。本内容は、2026年7月22日のAMD Advancing AIで発表されたものです。
「もっと大きな船が必要だ」 — ブロディ署長
AIの活用がエージェント型モデルへと移行するにつれて、データセンターインフラに求められる要件は高まります。その結果、サーバー単位で求められるCPU、メモリ、ストレージのパフォーマンスと密度の水準も高まります。では、エージェント型AIに適したアプリケーションサーバーとは、どのようなものなのでしょうか。また、それをどのようにテストすればよいのでしょうか。
私たちのチームは、エージェント型AIがインフラにかける可能性のあるツール呼び出しワークロードをモデル化したベンチマークを構築しました。そしてAMDのData Center Ecosystem Applicationsエンジニアリングチームと協力し、7月22日に開催されたAMD Advancing AIでデモを行いました。私たちは第5世代AMD EPYC 128コアCPUをテストし、AMDは新しい第6世代AMD EPYC 256コアCPUをテストしました。第6世代AMD EPYC CPUにMicron® DDR5-8000と9650 PCIe® Gen6 NVMe™ SSDを組み合わせることで、世代間の性能向上として、3.8倍のパフォーマンスを2.9倍高いCPU電力効率で実現しました。
幸いなことに、AMDは私たちのために「大きな船」を用意してくれました。
エージェント型アプリケーションサーバー
エージェント型AIの導入は、2つの異なるコンピューティング階層上で運用されます。推論は、言語モデルとエージェントフレームワークを実行する、アクセラレーターを多数搭載したホストで構成されるAIクラスター上で行われます。エージェントがツールを呼び出すたびに、そのリクエストはAIクラスターを離れ、アプリケーションサーバーに送られます。アプリケーションサーバーが処理を実行して結果を返し、それを受けてエージェントが次に行う処理を判断します。
図1. エージェント型AIのデータフロー。このベンチマークでは、オレンジ色で強調表示されたアプリケーションサーバーを評価します。
私たちが評価対象としたのは、このアプリケーションサーバーです。ホストごとに数百ものツール呼び出しが発生する場合、応答時間を左右するのはCPU、メモリ、NVMeサブシステムです。これは、ストレージ、メモリ、コンピューティング全体に関わる課題です。
エージェント型ベンチマークの設計
私たちは本番環境のエージェント型ワークフローをプロファイリングし、実際のアプリケーションを使用して、アプリケーションサーバーで一般的に発生する処理をモデル化したテストを設計しました。
- コーディングエージェントは、アセットをpullし、ビルドメタデータを参照し、ソースツリーをgrep検索します。
- ドキュメント分析エージェントは、ドキュメントをフェッチし、ポリシーデータベースにクエリを実行し、コーパスを検索します。
- 運用エージェントは、ログファイルをpullし、メトリクスストアにクエリを実行し、ランブックをgrep検索します。
- データアナリストエージェントは、生データのエクスポートをpullし、カタログデータベースにクエリを実行し、過去のレポート定義を検索します。
具体的な内容は異なりますが、ワークロードプロファイルは似ています。
図2. 3つのベンチマークアプリケーションに対応付けられた4つの代表的なエージェント型ワークフロー：アセットおよびコーパスのフェッチ用のS3 GET、メタデータおよびセッション検索用のMariaDB®、テキストおよびコード検索用のripgrep。
- オブジェクトストレージ：ローカルのMinIO™エンドポイントに対するS3 GETトラフィック。エージェントは、ドキュメント、画像、ベクトルシャード、RAGコーパスのチャンクをフェッチします。NVMeレイヤーのスループットに負荷をかけるため、混合オブジェクトサイズ分布（コンテナあたり500 × 1MiB、500 × 10MiB、190 × 50MiB）を使用しました。
- MariaDBに対する構造化クエリ：5種類のクエリ形態（ポイントルックアップ、範囲スキャン、集約、順序付きスキャン、重複排除）にわたり、サイクルあたり50件のクエリを実行。これは、エージェントがメタデータ、セッション、長期メモリの各ストアにどのようにアクセスするかを示すものです。
- ripgrepによるコードおよびテキスト検索：LinuxカーネルとCPythonのソースツリー全体に対し、サイクルあたり100回のripgrep検索を実行。テキスト検索はCPU負荷が高く、ホストメモリも使用します。これは、コーディングエージェント、ログ分析エージェント、コーパス全体から参照を検索するワークフローで見られる処理です。
各エージェントは、4GBのメモリ制限が設定された個別のDocker™コンテナ内で実行されます。各コンテナは1サイクルで、1,190回のS3 GET、50件のMariaDBクエリ、100回のripgrep検索を実行します。
AMD Advancing AIと第6世代EPYC CPU
AMD Advancing AI 2026において、AMDは、エージェント型AI時代に向けて業界をリードするパフォーマンスを実現するための第6世代AMD EPYCサーバーCPUを発表しました。AMDは、ソケットあたり最大256コア／512スレッドという業界トップクラスのコア密度に加え、5GHzで動作する業界最高周波数のAIホストノードと、リンクあたりの帯域幅を前世代比で2倍にする業界最先端のPCIe Gen6 I/Oサブシステムを組み合わせています。AMDはこの製品を、高密度コンピューティングによってエージェントをスケールさせる理想的なAIホストノードとして位置づけています。さらに、組織の日々の運用を支える汎用ワークロード、データベース、ストレージ、CPU推論にも対応する、ワークロード最適化型の幅広い製品ポートフォリオとしても訴求しています。
新しい第6世代AMD EPYCシステムはMicron DDR5-8000 DRAMに対応し、第5世代AMD EPYCシステムで使用されていたDDR5-6400と比べてデータレートを25%向上させるとともに、メモリチャネル数を12から16に増やしています。これにより、ピークメモリ帯域幅は第5世代EPYCシステムの614GB/秒から第6世代EPYCシステムでは1,024GB/秒へと高まりました。これは1.7倍の拡大です。さらに、ソケットあたりの容量も増え、数百の同時実行エージェントのワーキングセットを保持できます。
ストレージも世代をまたいで大きく進化しています。Micron 9650 SSDは、初の量産型PCIe Gen6データセンター向けSSDのひとつです。倍増したインターフェース帯域幅を活用し、エージェントホストが生成する混合I/O環境下で、オブジェクトやコーパスの読み取りをより高速に実行します。第5世代AMD EPYCシステムではPCIe Gen5対応のMicron 9550を使用していましたが、第6世代AMD EPYCシステムではPCIe Gen6対応のMicron 9650ドライブを使用しています。
| プラットフォーム項目 | 第6世代AMD EPYCプロセッサー | 第5世代AMD EPYCプロセッサー |
|---|---|---|
| CPU | 第6世代AMD EPYC CPU 9996 256コア | 第5世代AMD EPYC CPU 9745 128コア |
| ホストRAM | 2TB DDR5-8000 128GB x 16チャネル | 1.5TB DDR5-6400 128GB x 12チャネル |
| 同時実行コンテナ数 | 256 | 128 |
| コンテナのメモリ上限 | 4GB | 4GB |
| ストレージ | Micron 9650 PCIe Gen 6 NVMe SSD 7.68TB x 2 | Micron 9550 PCIe Gen 5 NVMe SSD 7.68TB x 2 |
| CPUトポロジー | NPS2（2 I/Oダイ）、SMTオフ | NPS1（1 I/Oダイ）、SMTオフ |
パフォーマンス結果
重要な指標はAgentic Operations Per Second（AOPS）です。これは、コンテナ内で実行されているすべてのワークロードで完了したオペレーションの総数を、完了までにかかった時間で割ったもので、システム全体でオペレーションがどれだけ速く処理されるかを示します。Turinは581.4AOPSであったのに対し、第6世代EPYC CPUは2,185AOPSを維持し、3.8倍の向上となりました。これはコンテナ数が2倍の条件での結果であり、第6世代EPYC CPUは、ほぼ半分の時間で2倍の処理を完了したことになります。
エージェント型AIの総合パフォーマンス
図3. AOPS合計：第6世代プラットフォームは2,185、第5世代プラットフォームは581.4。図4. 物理コアあたりのAOPS：第6世代プラットフォームは8.5、第5世代プラットフォームは4.5。
今回の結果では、第6世代プラットフォームでAOPS合計が3.8倍に向上しました。これは実質的に、1,190件のS3 GET、50件のMariaDBクエリ、100回のripgrep検索に、デプロイされたコンテナ数を掛け合わせた処理を、システムがどれだけ速く完了できるかを測定するものです。第6世代EPYCシステムは343,040件のオペレーションを157秒で完了しましたが、第5世代EPYCシステムは、その半分のオペレーションを完了するのに299秒かかりました。コア単位で見ると、第6世代EPYCシステムは、2倍のコア数で2倍のコンテナを実行しながら、コアあたり1.9倍のAOPSを達成しました。
ワークロード別のアプリケーションレイテンシー
稼働コンテナ数を2倍に増やしても、第6世代AMD EPYC CPUは、すべてのワークロードでアプリケーションレイテンシーを低く抑えています。ワークロードごとに見ると、S3ではPCIe Gen6対応Micron 9650の混合I/O性能が大きく貢献しています。MariaDBではシステム全体の性能向上が効いており、ripgrepではCPU性能が大きく影響します。
図5. ワークロードごとのコンテナ平均レイテンシー。
CPUパフォーマンス
第6世代EPYC CPUの全コア平均使用率は33%、第5世代EPYC CPUは87%でした。ただし、これだけで全体像が分かるわけではありません。テスト全体を通じて、両CPUとも使用率が頻繁に100%に達しました。
図6. 各アクティブウィンドウにおけるCPU使用率：測定された平均値とピーク値。
ストレージパフォーマンス
図7. 全体のストレージ読み取りスループットの平均値とピーク値の測定結果。図8. 全体のストレージ読み取りIOPSの平均値とピーク値の測定結果。
ストレージワークロードは複雑で、S3は大きなランダムI/Oを発生させ、MariaDBは16KB I/Oを使用し、ripgrepは4KB以下のI/Oを発行します。2台のドライブ構成で、Micron 9650は最大53GB/秒（170万IOPS）のバースト性能を記録しました。これは、ドライブ1台あたり28GB/秒、2台合計で56GB/秒という理論上限に極めて近い数値です。この結果は、9650が極めて高いスループットを処理できるだけでなく、負荷の高い混合I/Oワークロードでもその性能を発揮できることを示しています。
CPUパッケージ電力とエネルギー効率
図9. CPUパッケージRAPL電力の平均値とピーク値の測定結果。図10. CPUパッケージ1WあたりのAOPSの測定値：第6世代プラットフォームは5.2、第5世代プラットフォームは1.8。
CPUパッケージRAPL（Running Average Power Limit）電力は、第5世代EPYC CPUで平均320.6W、ピーク456.4Wでした。第6世代EPYC CPUでは、平均422.8W、ピーク604.7Wでした。第6世代EPYC CPUは、TDPが高く、コア数も2倍であるため消費電力は増えましたが、その電力でより多くの処理を完了しました。効率面を見ると、CPUパッケージ1WあたりのAOPSは、第5世代EPYC CPUの1.8に対し、第6世代EPYC CPUでは5.2となり、CPU電力効率は2.9倍に向上しました。
データセンター全体でAIを前進させる
AMDとマイクロンは、ホスト1台あたりのエージェント数と種類が増えていく中で、システムパフォーマンスを実証するため、このベンチマークを開発しました。IDCは、2029年までに世界中で10億を超えるAIエージェントが稼働し、1日あたり2170億件のアクションを実行すると予測しています。また、その負荷を処理するために、1日あたり3.7兆件のトークンとAPI呼び出しが消費されると見込んでいます1。Gartnerは、エージェント型AIへの支出額が2026年に2,019億ドルとなり、2029年には7,530億ドルに達すると予測しています2。ラックレベルで見ると、これはホスト1台あたりのエージェント数が増え、エージェントあたりの同時I/Oも増加し、サーバー内のすべてのサブシステムに同時にかかる負荷が高まることを意味します。
第6世代AMD EPYCシステムは、256個のコンテナで2,185AOPSを維持し、前世代をAOPS合計で3.8倍、コアあたりのAOPSで1.9倍上回りました。さらに、電力効率も2.9倍向上しています。
7月22日に開催されたAMD Advancing AIでのデモをぜひご覧ください。ワークロード設計、テレメトリー、そして2027年に向けて選定するサーバーにとってこれらの数値が何を意味するのかについて、詳しくご説明します。
謝辞
このテストの実施には、マイクロンとAMDの部門横断チームが携わりました。皆さん、ありがとうございます。
AMD
ミリンド・ダムレ、ソフトウェア＆ソリューションズ担当シニアディレクター
アンレ・カシャップ、クラウドエンジニアリング担当シニアマネージャー
アビマニュ・シャー、シニアソフトウェアシステムデザイナー
ジジ・クマラーゼ、ソフトウェアシステムデザイナー
アポストロス・コチオリス、AMD EPYC製品マーケティングマネージャー
ケタン・サングラジカ、IHVソリューションアーキテクト
チャンダナ・アンベカール、AI推論パフォーマンスエンジニア
マイクロン
ジョン・マジー、テクニカルスタッフ
ディリム・ヌウォブ、プリンシパルシステムパフォーマンスエンジニア
アミット・ボダス、パートナーエンジニアリング担当
参考資料
1. IDC（2025年12月10日）。「エージェント導入：IT業界の次なる大きな転換点。」（Agent Adoption: The IT Industry's Next Great Inflection Point.） 2029年までに、実稼働するAIエージェントは世界で10億を超え、1日あたり2,170億件のアクションを実行すると予測されています。https://www.idc.com/resource-center/blog/agent-adoption-the-it-industrys-next-great-inflection-point/
2. Gartner（2026年1月15日、Software Strategies Blogによる2026年2月26日のまとめより）。エージェント型AIへの支出は、2026年に2,019億ドル、2029年には7,530億ドルに拡大すると予測されています。https://softwarestrategiesblog.com/2026/02/26/roundup-of-agentic-ai-forecasts-and-market-estimates-2026/
AMD、AMDの矢印ロゴ、EPYC、およびそれらの組み合わせは、Advanced Micro Devices, Inc.の商標です。MicronおよびMicronロゴは、Micron Technology, Inc.の商標または登録商標です。PCIeはPCI-SIGの登録商標です。NVMeはNVM Express, Inc.の商標です。DockerはDocker, Inc.の商標または登録商標です。MariaDBはMariaDB plcまたはその子会社の商標または登録商標です。MinIOはMinIO, Inc.の商標です。その他すべての商標は、それぞれの所有者に帰属します。
1P AMD EPYC™ 9745 HPE ProLiant DL345 Gen11本番システム（1 x 128C）、1.5TB、12 x 128GB DDR5-6400、Micron 9550 Pro 7.68TB x 2、NPS=1、Ubuntu 24.04.4 LTS、Kernel Linux 6.8.0-134-generic、BIOS 2.2（determinism enable=power）、テスト日：2026年7月14日。
1P AMD EPYC™ 9996リファレンスシステム（1 x 256C）、2.0TB、16 x 128GB DDR5-8000、Micron 9650 7.68TB x 2、NPS=2、Ubuntu 24.04.4、Kernel Linux nigeria-4370-os 6.18.2-amdsos-build70-ubuntu-24.04+、（determinism enable=power）、テスト日：2026年7月10日。
