去可网 > 社会 > 正文

​NVIDIA发布全新交换机、网卡:带宽高达80万兆

2024-03-20 07:39 来源:去可网 点击:

NVIDIA发布全新交换机、网卡:带宽高达80万兆

快科技 3 月 19 日消息,AI 新时代不但对算力、模型要求越来越高,也需要越来越强大的网络。为此,NVIDIA 发布了专为大规模 AI 量身订制的全新网络交换机—— X800 系列。

据悉,NVIDIA Quantum-X800 InfiniBand 网络、Spectrum-X800 以太网络是全球首批高达 800Gbps 端到端吞吐量的网络平台,早期用户包括微软 Azure、甲骨文云、Coreweave 等等。

Quantum-X800 平台可以说是 AI 专用基础设施极致性能的新标杆,包含 Quantum Q3400 交换机、ConnectX-8 SuperNIC 网卡,二者互连的端到端吞吐量达到了业界领先的 800Gbps ( 80 万兆 ) 。

同时,交换带宽容量比上一代提高 5 倍,网络计算能力则凭借 NVIDIA SHARPv4 技术提高 9 倍,达到了 14.4TFlops,也就是每秒 14.4 万亿次计算。

Spectrum-X800 则包含 Spectrum SN5600 交换机、BlueField-3 SuperNIC 网卡,吞吐量同样高达 800Gbps,可为多租户 AIGC 云和大型企业级用户提供各种至关重要的先进功能。

软件方面,NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络加速通信库、软件开发套件、管理软件等全套软件方案。

其中,NVIDIA 集合通信库(NCCL)可将 GPU 的并行计算任务扩展到 Quantum-X800 网络,并利用基于 SHARPv4 的强大网络计算能力、对 FP8 数据格式的支持,为大模型训练和 AIGC 提供超强的性能。

全球多家头部基础设施供应商和系统厂商将从 2025 年开始,提供基于 Quantum-X800、Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔、Eviden、Hitachi Vantara ( 日立旗下 ) 、慧与、联想、超微、VAST Data 等等。