NVIDIA annab välja uue AI-lahenduse riistvaraplatvormi

19. novembril tõi tehisintellekti (AI) kiibitootja NVIDIA ametlikult turule kaks uut tehisintellektilahenduse riistvaraplatvormi, milleks on Blackwell GB200 NVL4 ja Hopper H200 NVL. Nende hulgas on täiesti uus moodul NVIDIA GB200 NVL4, mis on suurem laiendus, mis põhineb originaalsel GB200 Grace Blackwell Superchip AI lahendusel. GB200 NVL4 moodul konfigureerib kaks Blackwell GB200 GPU-d suuremal emaplaadil, see tähendab, et sellel on kaks Grace CPU-d ja neli Blackwell B200 GPU-d. Moodul on loodud ühe serveri lahendusena, millel on 4-GPU NVLINK domeenid ja 1.3T koherentne mälu. Toimivuse osas parandab moodul simulatsiooni jõudlust 2,2 korda ning koolituse ja järelduste jõudlust 1,8 korda. NVIDIA partnerid pakuvad lähikuudel NVL4 lahendusi. Lisaks on nüüd üldiselt saadaval PCIe-põhine Hopper H200 NVL ja need kaardid suudavad NVLINK-domeeni kaudu ühendada kuni 4 GPU-d, pakkudes kuni 7 korda kiiremat ribalaiust kui tavalised PCIe lahendused. Nvidia sõnul sobib H200 NVL lahendus igasse andmekeskusesse ja pakub erinevaid paindlikke serverikonfiguratsioone, mis on optimeeritud segatud HPC ja AI töökoormuse jaoks. Tehniliste andmete osas pakub Hopper H200 NVL lahendus 1,5-kordset HBM-mälu, 1,7-kordset LLM-i järelduste jõudlust ja 1,3-kordset HPC-jõudlust. Saate 114 SM-i kokku 14592 CUDA tuuma, 456 tensortuuma ja kuni 3 FP8 TFLOP-i (FP16 kumulatiivne) jõudluse jaoks. GPU-l on 80 Gb HBM2e mälu, mis on konfigureeritud 5120-bitise liidese kaudu ja selle TDP on 350 vatti. Mis puutub TDP-sse, siis kuna Superchipi moodul on umbes 2700 W, eeldage, et suurem GB200 NVL4 lahendus tarbib 6000 W võimsust.