NVIDIA izdaja novo strojno platformo rešitve AI

19. novembra je izdelovalec čipov za umetno inteligenco (AI) NVIDIA uradno predstavil dve novi strojni platformi za rešitev AI, in sicer Blackwell GB200 NVL4 in Hopper H200 NVL. Med njimi je NVIDIA GB200 NVL4 popolnoma nov modul, ki je večja razširitev, ki temelji na izvirni rešitvi GB200 Grace Blackwell Superchip AI. Modul GB200 NVL4 konfigurira dva grafična procesorja Blackwell GB200 na večji matični plošči, kar pomeni, da ima dva procesorja Grace in štiri grafične procesorje Blackwell B200. Modul je zasnovan kot enojna strežniška rešitev s 4-GPU NVLINK domenami in 1,3T koherentnim pomnilnikom. Kar zadeva zmogljivost, bo modul izboljšal zmogljivost simulacije za 2,2-krat ter zmogljivost usposabljanja in sklepanja za 1,8-krat. NVIDIA-ini partnerji bodo v naslednjih mesecih zagotovili rešitve NVL4. Poleg tega je Hopper H200 NVL, ki temelji na PCIe, zdaj splošno na voljo in te kartice lahko povežejo do 4 GPE prek domene NVLINK, kar zagotavlja do 7x hitrejšo pasovno širino kot standardne rešitve PCIe. Nvidia pravi, da se rešitev H200 NVL lahko prilega vsakemu podatkovnemu centru in ponuja vrsto prilagodljivih konfiguracij strežnikov, optimiziranih za mešane delovne obremenitve HPC in AI. Kar zadeva specifikacije, rešitev Hopper H200 NVL zagotavlja 1,5-kratni pomnilnik HBM, 1,7-kratno zmogljivost sklepanja LLM in 1,3-kratno zmogljivost HPC. Dobite 114 SM-jev za skupno 14592 jeder CUDA, 456 tenzorskih jeder in do 3 zmogljivosti FP8 TFLOP (FP16 kumulativno). GPU ima 80 Gb pomnilnika HBM2e, konfiguriranega prek 5120-bitnega vmesnika, in ima TDP 350 vatov. Kar zadeva TDP, ker je modul Superchip približno 2700 W, pričakujte, da bo večja rešitev GB200 NVL4 porabila bližje 6000 W energije.