NVIDIA izdaje novu hardversku platformu AI rješenja

Dana 19. studenog, proizvođač čipova za umjetnu inteligenciju (AI) NVIDIA službeno je lansirao dvije nove hardverske platforme rješenja za umjetnu inteligenciju, naime Blackwell GB200 NVL4 i Hopper H200 NVL. Među njima, NVIDIA GB200 NVL4 je potpuno novi modul, koji je veće proširenje temeljeno na izvornom GB200 Grace Blackwell Superchip AI rješenju. GB200 NVL4 modul konfigurira dva Blackwell GB200 GPU-a na većoj matičnoj ploči, odnosno ima dva Grace CPU-a i četiri Blackwell B200 GPU-a. Modul je dizajniran kao jedno poslužiteljsko rješenje s 4-GPU NVLINK domenama i 1,3T koherentnom memorijom. Što se tiče performansi, modul će poboljšati performanse simulacije za 2,2 puta, a performanse obuke i zaključivanja za 1,8 puta. NVIDIA-ini partneri će osigurati NVL4 rješenja u nadolazećim mjesecima. Dodatno, Hopper H200 NVL temeljen na PCIe-u sada je općenito dostupan, a ove kartice mogu povezati do 4 GPU-a putem NVLINK domene, isporučujući do 7x bržu propusnost od standardnih PCIe rješenja. Nvidia kaže da se H200 NVL rješenje može uklopiti u bilo koji podatkovni centar i nudi niz fleksibilnih konfiguracija poslužitelja optimiziranih za mješovita HPC i AI radna opterećenja. Što se tiče specifikacija, rješenje Hopper H200 NVL pruža 1,5x HBM memoriju, 1,7x LLM izvedbu zaključivanja i 1,3x HPC izvedbu. Dobivate 114 SM-ova za ukupno 14592 CUDA jezgre, 456 tenzorskih jezgri i do 3 FP8 TFLOP (FP16 kumulativno) performanse. GPU ima 80 Gb HBM2e memorije konfigurirane preko 5120-bitnog sučelja i ima TDP od 350 W. Što se tiče TDP-a, budući da je Superchip modul oko 2700 W, očekujte da će veće GB200 NVL4 rješenje trošiti bliže 6000 W energije.