NVIDIA lanserer nytt storskala racksystem GB200 NVL72 for å akselerere generative AI-evner

2024-12-26 04:57
 84
Basert på Blackwell har NVIDIA lansert et nytt storskala racksystem GB200 NVL72. Systemet har 72 Blackwell GPUer og 36 Grace GPUer, og har 1,4 eksaflops AI-ytelse og 30 TB raskt minne. Nvidia sa at systemet kan distribuere modeller med 27 billioner parametere, mens den nåværende største modellen, GPT-4, bare har omtrent 1,7 billioner parametere, så det kan akselerere utgivelsen av generative AI-evner.