NVIDIA gefur út nýjan AI lausn vélbúnaðarvettvang

Þann 19. nóvember hóf gervigreind (AI) flísaframleiðandinn NVIDIA opinberlega tvo nýja AI lausn vélbúnaðarpalla, nefnilega Blackwell GB200 NVL4 og Hopper H200 NVL. Meðal þeirra er NVIDIA GB200 NVL4 glæný eining, sem er stærri stækkun byggð á upprunalegu GB200 Grace Blackwell Superchip AI lausninni. GB200 NVL4 einingin stillir tvo Blackwell GB200 GPU á stærra móðurborði, það er að segja hún hefur tvo Grace örgjörva og fjóra Blackwell B200 GPU. Einingin er hönnuð sem ein netþjónslausn með 4-GPU NVLINK lénum og 1.3T samhangandi minni. Hvað varðar frammistöðu mun einingin bæta uppgerðaframmistöðu um 2,2 sinnum og árangur þjálfunar og ályktunar um 1,8 sinnum. Samstarfsaðilar NVIDIA munu veita NVL4 lausnir á næstu mánuðum. Að auki er PCIe-undirstaða Hopper H200 NVL nú almennt fáanleg og þessi kort geta tengt allt að 4 GPU í gegnum NVLINK lénið, sem skilar allt að 7x hraðari bandbreidd en venjulegar PCIe lausnir. Nvidia segir að H200 NVL lausnin geti passað inn í hvaða gagnaver sem er og býður upp á úrval af sveigjanlegum netþjónastillingum sem eru fínstilltar fyrir blandað HPC og AI vinnuálag. Hvað varðar forskriftir, þá veitir Hopper H200 NVL lausnin 1,5x HBM minni, 1,7x LLM ályktunarafköst og 1,3x HPC frammistöðu. Þú færð 114 SM fyrir samtals 14592 CUDA kjarna, 456 tensor kjarna og allt að 3 FP8 TFLOP (FP16 uppsöfnuð) afköst. GPU er með 80 Gb HBM2e minni stillt yfir 5120 bita viðmót og hefur TDP upp á 350 vött. Hvað TDP varðar, þar sem Superchip-einingin er um 2700W, búist við að stærri GB200 NVL4 lausnin eyði nær 6000W af orku.