GH200 NVIDIA 超级服务器

描述

产品描述

GH200 NVIDIA超级服务器是一款尖端服务器，旨在满足高性能计算的苛刻要求。凭借其强大的NVIDIA GPU，它为人工智能、深度学习、科学研究和数据分析任务提供了卓越的性能和速度。该服务器提供了一系列配置选项，以满足各种工作负载强度，并且可以轻松扩展以满足日益增长的计算需求。其先进的冷却系统即使在繁重的工作负载下也能确保最佳的工作温度。GH200具有稳健可靠的设计，是寻求卓越计算能力的组织的完美选择。

特征

强大的NVIDIA GPU加速

高性能计算能力

先进的冷却系统可实现最佳性能

可扩展存储和内存选项

稳健可靠的设计

GH200 NVIDIA超级服务器是一款用于高性能计算和数据处理的尖端解决方案。凭借其强大的NVIDIA GPU，它为要求苛刻的计算任务和数据密集型应用程序提供了卓越的性能。该服务器旨在提供高速处理能力，从而实现高效的数据分析和模型训练。凭借其可扩展和灵活的配置选项，它可以进行定制，以满足各种行业和应用程序的特定要求。

全新的AI超级计算机将256个NVIDIA Grace Hopper™超级芯片完全连接到一个单一的GPU中，从而在AI时代开启了巨大的潜力。NVIDIA DGX™GH200旨在处理用于大规模推荐系统、生成式AI和图形分析的TB级模型，提供144TB的共享内存，为巨型AI模型提供线性扩展能力。

通过NVLink、NVSwitch和NVLink Switch系统实现可扩展互连

DGX GH200通过在每个采用NVLink Switch系统的Grace Hopper超级芯片之间扩展NVIDIA®NVLink®，从而扩展到256个GPU。

NVIDIA DGX GH200的超大共享内存空间通过NVLink互连技术以及NVLink Switch System使256个GH200超级芯片相连，使它们能够作为单个GPU运行。其提供1 exaflop的性能和144 TB的共享内存——相较2020年推出的上一代NVIDIA DGX A100内存大了近500倍。

GH200超级芯片使用NVIDIA NVLink-C2C芯片互连，将基于Arm的NVIDIA Grace™CPU与NVIDIA H100 Tensor Core GPU整合在一起，从而不再需要传统的CPU至GPU PCIe连接。与最新的PCIe技术相比，这将GPU和CPU之间的带宽提高了7倍，将互连功耗减少了5倍以上，并为DGX GH200超级计算机提供了一个600GB的Hopper架构GPU构建模块。

DGX GH200是第一款将Grace Hopper超级芯片与NVIDIA NVLink Switch System配对使用的超级计算机，这种新的互连方式使DGX GH200系统中的所有GPU作为一个整体协同运行。上一代系统在不影响性能的前提下只能通过NVLink把8个GPU整合成一个GPU。

DGX GH200架构相比上一代将NVLink带宽提升了48倍以上，实现在单个GPU上通过简单编程即可提供大型AI超级计算机的能力。

为巨型模型提供大内存

NVIDIA DGX GH200是唯一一款在256个NVIDIA Grace Hopper超级芯片GPU上提供144TB超大共享内存空间的AI超级计算机，为开发者提供了近500倍的内存以构建巨型模型

超高能效计算

Grace Hopper超级芯片将NVIDIA Grace™CPU与NVIDIA Hopper™GPU结合在同一封装上，从而消除了对传统PCIe CPU至GPU连接的需求，可将带宽提高7倍，并将互联功耗降低5倍以上。

集成且随时可以运行

借助一站式DGX GH200部署，只需数周（而非数月）即可构建大型模型。此全堆栈数据中心级解决方案包括软件以及白手套服务从设计到部署，从而加快AI投资回报率。

应用领域

GH200 NVIDIA超级服务器广泛应用于人工智能、深度学习、科学研究、数据分析、机器学习等领域。

美国出台了对华半导体出口限制新规，其中就包括了对于高性能计算芯片对中国大陆的出口限制。并且以NVIDIA的A100芯片的性能指标作为限制标准。即同时满足以下两个条件的即为受管制的高性能计算芯片：

（1）芯片的I/O带宽传输速率大于或等于600 Gbyte/s；

（2）“数字处理单元原始计算单元”每次操作的比特长度乘以TOPS计算出的的算力之和大于或等于4800TOPS。这也使得NVIDIA A100/H100系列、AMD MI200/300系列AI芯片无法对华出口。