NVIDIA DGX A100は、分析やトレーニング、推論など、あらゆるAIワークフローに対応するユニバーサルシステムです。NVIDIA A100 TensorコアGPUを備え、世界最先端のアクセラレーションを実現します。6Uのフォームファクターで5petaFLOPSのパフォーマンスを可能にし、最高水準の計算処理密度を提供します。

NVIDIA DGX A100 ~あらゆるAIワークロードのためのユニバーサルシステム~

NVIDIA A100 GPUに搭載されたマルチインスタンス-GPU(MIG)を利用することで、コンピューティングパワーをきめ細かく配分し、管理者は特定のワークロードに最適なサイズのリソースを割り当てられます。総計640GBまでのGPUメモリが利用できるので、大規模なトレーニングジョブのパフォーマンスが最大3倍、MIGインスタンスのサイズが2倍に向上します。

DGX A100 筐体
NVIDIA DGX A100
最大規模のモデルでAIトレーニングのスループットが最大3倍に向上
AI推論のスループットが最大1.25倍に向上
CPUより最大83倍のスループット、DGX A100 320GBより最大2倍のスループット

NVIDIA DGX A100の特長

  • 8基のA100 TensorコアGPUと最大640GBのGPUメモリを搭載
  • AIに精通した専門家「DGXpert」がアドバイスや設計に関する知識を提供
  • 6Uのフォームファクターで5petaFLOPSのAIパフォーマンスを発揮
  • 第3世代のNVIDIA NVLinkがGPUからGPUへの直接帯域幅を600GB/秒に倍増
  • 2倍の速度
    前世代と比較して2倍の速度を持つ次世代のNVIDIA NVSwitchを搭載
  • セキュリティ
    自動暗号化ドライブやセキュアブートなど、幅広いセキュリティ体制を実現

NVIDIA DGX A100 システム仕様

NVIDIA DGX A100
640GB
NVIDIA DGX A100
320GB
GPU NVIDIA A100
80GB GPU x 8
NVIDIA A100
40GB GPU x 8
GPUメモリ 総計640GB 総計320GB
パフォーマンス AIで5petaFLOPS
INT8で10petaOPS
NVIDIA NVSwitch 6
消費電力 6.5kW(最大)
CPU Dual AMD Rome7742、総計128コア、
2.25GHz(ベース)、3.4GHz(最大ブースト)
システムメモリ 2TB 1TB
ネットワーク シングルポート
Mellanox ConnectX-6
VPI
200Gb/秒HDR
InfiniBand x 8
デュアルポート
Mellanox ConnectX-6
VPI
10/25/50/100/200 Gb/秒 Ethernet x 2
シングルポート
Mellanox ConnectX-6
VPI x 8
200Gb/秒HDR
InfiniBand
デュアルポート
Mellanox ConnectX-6
VPI x 1
10/25/50/100/200 Gb/秒 Ethernet
ストレージ OS:1.92TB M.2 NVME
ドライブ x 2
内部ストレージ:
30TB(3.84TB x 8)
U.2 NVMe ドライブ
OS:1.92TB M.2 NVME
ドライブ x 2
内部ストレージ:
15TB(3.84TB x 4)
U.2 NVME ドライブ
ソフトウェア Ubuntu Linux OS
その他:
Red Hat Enterprise Linux
CentOS
重量 123.16kg(最大)
梱包重量 163.16kg(最大)
サイズ 全高:264.0mm
全幅:482.3mm
奥行:897.1mm
運用温度範囲 5ºC~30ºC