NVIDIA展示了其Blackwell平台在數據中心中的運行情況,有力駁斥了此前關于上市延期的猜測。
同時,NVIDIA NVLINK技术也迎來重大升級,帶寬提升一倍,達到1.4TB/s。
Blackwell平台整合了Blackwell GPU、Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多款芯片,提供全面的數據中心解决方案。
Blackwell平台旨在滿足現代人工智能需求,特别是超大型语言模型的计算要求。随着AI模型参数的不断增长,數據中心对计算能力和低延迟的需求愈发迫切。
Blackwell平台的多GPU推理架構將計算任務分配至多個GPU,實現低延遲和高吞吐量的處理能力。
NVIDIA推出Blackwell的高速NVLINK交換機,基于台积电4NP节点,提供1.8TB/s双向NVLINK带宽,可连接多达72个GPU,大幅提升數據中心通信效率。
此外,NVIDIA展示了全球首張使用FP4計算生成的人工智能圖像,展現了FP4量化模型在速度上的顯著優勢,同時保持與FP16模型相近的圖像質量。
(舉報)