英偉達發布全新AI解決方案硬體平台

11月19日，人工智慧（AI）晶片大廠英偉達（NVIDIA）正式推出了兩個全新的AI解決方案硬體平台，分別是Blackwell GB200 NVL4和Hopper H200 NVL。其中，英偉達GB200 NVL4是一個全新的模組，是基於原有的GB200 Grace Blackwell Superchip AI解決方案的更大擴展。 GB200 NVL4模組是在更大的主機板上配置兩個Blackwell GB200 GPU，即擁有兩個Grace CPU和4個Blackwell B200 GPU。此模組設計為具有4-GPU NVLINK域和1.3T相干記憶體的單一伺服器解決方案。在性能方面，此模組將使模擬性能提高2.2倍，訓練和推理性能提高1.8倍。英偉達的合作夥伴將在未來幾個月內提供NVL4解決方案。此外，基於 PCIe 的Hopper H200 NVL已全面上市，這些卡片可透過 NVLINK 域連接多達 4 個 GPU，可提供比標準 PCIe 解決方案快7倍的頻寬。英偉達表示，H200 NVL 解決方案可以適應任何資料中心，並提供一系列針對混合 HPC 和 AI 工作負載最佳化的靈活伺服器配置。在規格方面，Hopper H200 NVL解決方案提供了1.5倍的HBM記憶體、1.7倍的LLM推理效能和1.3倍的HPC效能。您將獲得114個SM，總共14592個CUDA核心、456個張量核心和最多3個FP8 TFLOP（FP16累積）效能。 GPU具有跨5120位元介面配置的80 Gb HBM2e內存，TDP為350瓦。至於 TDP，由於 Superchip 模組的功率約為 2700W，預計更大的 GB200 NVL4 解決方案的功耗將接近 6000W 的功率。