HPE ProLiant Compute DL384 Gen12
検索拡張生成（RAG）によるファインチューニングや推論のような、混在でメモリを多用するAIワークロードで次世代パフォーマンスを実現
HPE ProLiant Compute Gen12の特徴
- HPE Integrated Lights Out（iLO）7により、エンタープライズセキュリティの新しい基準を確立
- 高レベルの暗号化セキュリティ標準であるFIPS 140-3レベル3認証の要件を充足
- 複雑なワークロードのパフォーマンスを最適化し、人工知能（AI）を活用した管理機能によって生産性を向上
- サーバー環境を保護および自動化できるようにするクラウドベースのソフトウェアプラットフォームHPE Compute Ops Management
- パフォーマンス、エネルギー効率を最適化
- 従来のエンタープライズシステムと比較してワットあたりのパフォーマンスが最大41%向上
- 年間最大65%の電力を節約し、1台のGen12サーバーで7台のGen10サーバーと同じコンピューティングパフォーマンスを提供 ※spec.org SPECrate2017_int_base: #20893に掲載された結果（2025年1月1日時点）を反映しています。ワットあたりのパフォーマンスの優位性は、同様の構成の高エネルギー効率サーバーにおける内部電力およびパフォーマンス測定に基づいており、推定86コアのGen12システムと比較しています
- Intel Xeon 6プロセッサーを搭載
HPE ProLiant Compute DL384 Gen12の特徴
- NVIDIA GH200 Grace Hopper Superchip搭載ラックマウント型サーバー 高速コンピューティング、生成AI、AI推論ワークロードを劇的に向上
- NVIDIA GH200 NVL2使用のデュアルNVIDIA GH200 Grace Hopper Superchipに対応 卓越したコヒーレントメモリとメモリ帯域幅を提供
- GH200 NVL2は、Grace CPU 2基とHopper GPU 2基を革新的なアーキテクチャーで融合。8ペタFLOPSのAIパフォーマンスを単一ノードで実現
- GH200 NVL2は、NVIDIA H100 Tensor Core GPUに比べて最大3.5倍のGPUメモリ容量と3倍の帯域幅を、コンピュートおよびメモリ多用型ワークロードに対応できる単一サーバーで提供
- HPE ProLiantポートフォリオにおいてGPUあたりで最高クラスのパフォーマンスを提供
- データの需要に応じた拡張へのアプローチを簡素化。高速コンピューティングを統合により、ハイブリッド環境における混合ワークロードと検索拡張生成（RAG）に対応できるデータセンターの実現が可能
HPE ProLiant Compute DL384 Gen12の仕様
| HPE ProLiant Compute DL384 Gen12の仕様 | |
|---|---|
| CPU | Arm Neoverse V2コア （x 72） 搭載のNVIDIA Grace |
| CPUメモリ | 最大480GB （LPDDR5X） |
| スーパーチップあたりのCPU | 1個 |
| GPU | NVIDIA Hopper |
| GPUメモリ | 最大144GB （HBM3e） |
| Superchipに含まれるGPU | 1個 |
| プロセッサーファミリ | NVIDIA Grace CPUおよびHopper GPU |
| Superchip名 | NVIDIA GH200 Grace Hopper Superchip |
| Superchip合計メモリ | 最大480GBのLPDDR5Xメモリ（ECC）、144GBのHBM3e、 スーパーチップあたり最大624GBの高速アクセスメモリ。 HPEのデュアルスーパーチップ搭載サーバーは、最大規模の諸問題に対応できる最大1248GBのコヒーレントメモリを提供 |
| Superchips 搭載数 | NVIDIA GH200 NVL2のスーパーチップ2基 |
| サポートされるオペレーティングシステム | RHEL 9（9.2+）のリリースに続いて、SLESとUbuntuがリリースされる予定 |
| トータルコヒーレントメモリー | 最大1248GB（GH200 2基合計） |
| サポート対象ドライブ | EDSFF NVMe Gen5 ドライブ×最大8 |
| インフラストラクチャ管理 | Intelligent Provisioning（内蔵）を搭載するHPE iLO Standard、HPE iLO Advanced |
| パワーサプライ | N+N冗長電源装置（HPE 1800W-2200W Flex Slot Titaniumホットプラグ対応電源装置キット x 最大4） |
| 拡張スロット | 高速PCIe Gen5（×最大4）×16デバイス、 PCIeフルハイトハーフレングス（FHHL）スロット（×最大4）またはPCIe FHHL（×最大2）およびOCP 3.0（×2） |
| ディスクコントローラ | ハードウェアRAIDコントローラは、この世代のM.2ドライブとEDSFF NVMeドライブのいずれにも非対応 |
| システムファンの機能 | ホットプラグ対応冗長ファン×6 |
| シャーシ | 2U空冷式19インチラックマウント型サーバー（奥行き 31.75 インチ＝806mm） |
| 標準保証 | 3/3/3:サーバー保証には、3年間の部品交換保証、3年間の作業保証、および3年間のオンサイトサポート保証 |
HPE ProLiant Compute DL384 Gen12の仕様
AIの未来を見据えてインフラストラクチャを最新化
NVIDIA GH200 NVL2 Grace Hopper Superchiを搭載したHPE ProLiant Compute DL384 Gen12サーバーは、単一のスーパーチップサーバーに比べてメモリスペースと帯域幅が飛躍的に拡大します。
NVIDIA Grace CPUとHopper GPUを組み合わせた最大1.2TBを誇る高速メモリ、そして両者の高帯域幅接続により、テラバイト級のデータを実行する大規模LLMの処理やアプリケーションの対応が容易になり、複雑な問題に対峙する科学者や研究者は、以前なら不可能であった問題の解決策に結びつくことができます。
単一ノードでGH200スーパーチップ2基をNVLinkによって接続すると、イノベーションの推進、リソース利用率の向上、データ活用による効率拡大、ROI（Return On Investment＝投資収益率）の改善を実現し、推論における投資額あたりのパフォーマンスが向上します。
革新的なアーキテクチャが応答のレイテンシを低減させるとともに、計算負荷の高いワークロードに対して、より少ないノードでの実行が可能になるます。このことから、複雑な分散アーキテクチャと複数のオペレーティングシステムの維持に伴うコストを削減できます。
より有益な情報を取得してイノベーションを推進
NVIDIA InfiniBand、Ethernet、BlueFieldの信頼性の高い高速インターコネクトを提供します。より迅速な推論に役立つ低レイテンシを実現します。
ハイブリッド環境に特化して設計されたHPE ProLiantサーバーの活用により、データセンターからクラウドに至るまでのパフォーマンスのカスタマイズおよびワークロードの高速化を実現します。
AIの支援によるデータ主導型プロセスが増えつつある中、このAI革命に資本を投入してAIネイティブアーキテクチャーを活用することで、自社のビジネスプロセスにAIを容易に展開できるようになります。
NVIDIA GH200 Grace Hopper Superchip2基を搭載しながらも、空冷環境（通常データセンター）での運用が可能です。
柔軟性のある管理で状況を常時コントロール
HPE ProLiant Compute DL384 Gen12サーバーは、HPE Silicon Root of Trust （シリコンレベルの信頼性）テクノロジーによる強固な信頼性とセキュリティ強化を図るHPE iLO管理とファームウェアスタックを備え、HPE ProLiantポートフォリオ全体で一貫性のあるエクスペリエンスを提供します。
HPE Integrated Lights-Out 7（iLO ７）サーバー管理ソフトウェア搭載により、世界中のどこからでもシームレスにHPE ProLiant Gen12サーバーの構成、監視、更新時のセキュリティ強化が実現します。
