NVIDIA lanserar nytt storskaligt racksystem GB200 NVL72 för att accelerera generativ AI-kapacitet

2024-12-26 04:57
 84
Baserat på Blackwell har NVIDIA lanserat ett nytt storskaligt racksystem GB200 NVL72. Med 72 Blackwell GPU:er och 36 Grace GPU:er, har systemet 1,4 exaflops av AI-prestanda och 30TB snabbt minne. Nvidia sa att systemet kan distribuera modeller med 27 biljoner parametrar, medan den nuvarande största modellen, GPT-4, bara har cirka 1,7 biljoner parametrar, så det kan påskynda lanseringen av generativa AI-funktioner.