ipv4与ipv6的区别-NVLINK升级至1.4TB/s!NVIDIA Blackwell已在数据中心运行

NVIDIA在近期的吹风会上,展现了Blackwell在数据中心的运转状况,并批驳了此前关于Blackwell推迟上市的传闻。
不仅如此,NVIDIA NVLINK技术也迎来了严重晋级,带宽翻倍到达1.4TB/s。
Blackwell渠道不仅包含Blackwell GPU,还集成了Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多种芯片,形成了一个全面的数据中心解决方案。
Blackwell渠道的设计目标是满意现代人工智能的需求,特别是针对超大型语言模型的核算需求,随着AI模型参数的不断增长,数据中心对核算才能和低推迟的要求也越来越高。
Blackwell渠道的多GPU推理方法,经过在多个GPU上分配核算使命,实现了低推迟和高吞吐量的处理才能。
NVIDIA经过Blackwell推出了速度更快的NVLINK交换机,该交换机根据台积电4NP节点,提供了1.8TB/s的双向NVLINK带宽,能够连接72个GPU,大幅提高了数据中心的通讯效率。
NVIDIA还共享了全球首张运用FP4核算生成的人工智能图像,展现了FP4量化模型在速度上的明显优势,一起保持了与FP16模型类似的图像质量。

共有 0 条评论

发表评论

邮箱地址不会被公开。 必填项已用*标注