NVIDIA lansira novi rack sustav velikih razmjera GB200 NVL72 za ubrzavanje generativnih AI mogućnosti

2024-12-26 04:57
 84
Na temelju Blackwella, NVIDIA je lansirala novi rack sustav velikih razmjera GB200 NVL72. Uz 72 Blackwell GPU-a i 36 Grace GPU-a, sustav se može pohvaliti AI performansama od 1,4 exaflopsa i 30 TB brze memorije. Nvidia je rekla da sustav može implementirati modele s 27 trilijuna parametara, dok trenutno najveći model, GPT-4, ima samo oko 1,7 trilijuna parametara, tako da može ubrzati oslobađanje generativnih AI mogućnosti.