NVIDIA julkaisee uuden tekoälyratkaisun laitteistoalustan

19. marraskuuta tekoälyn (AI) siruvalmistaja NVIDIA julkisti virallisesti kaksi uutta tekoälyratkaisulaitteistoa, Blackwell GB200 NVL4 ja Hopper H200 NVL. Niistä NVIDIA GB200 NVL4 on upouusi moduuli, joka on suurempi laajennus, joka perustuu alkuperäiseen GB200 Grace Blackwell Superchip AI -ratkaisuun. GB200 NVL4 -moduuli konfiguroi kaksi Blackwell GB200 GPU:ta suuremmalle emolevylle, eli siinä on kaksi Grace-suoritinta ja neljä Blackwell B200 GPU:ta. Moduuli on suunniteltu yksittäiseksi palvelinratkaisuksi, jossa on 4-GPU NVLINK-alueet ja 1.3T koherentti muisti. Suorituskyvyn suhteen moduuli parantaa simuloinnin suorituskykyä 2,2-kertaisesti ja koulutus- ja päättelykykyä 1,8-kertaisesti. NVIDIAn kumppanit toimittavat NVL4-ratkaisuja tulevina kuukausina. Lisäksi PCIe-pohjainen Hopper H200 NVL on nyt yleisesti saatavilla, ja nämä kortit voivat yhdistää jopa 4 GPU:ta NVLINK-verkkotunnuksen kautta, mikä tarjoaa jopa 7x nopeamman kaistanleveyden kuin tavalliset PCIe-ratkaisut. Nvidia sanoo, että H200 NVL -ratkaisu sopii mihin tahansa datakeskukseen ja tarjoaa valikoiman joustavia palvelinkokoonpanoja, jotka on optimoitu sekoitettuihin HPC- ja AI-työkuormiin. Teknisesti Hopper H200 NVL -ratkaisu tarjoaa 1,5x HBM-muistin, 1,7x LLM-päätelmäsuorituskyvyn ja 1,3x HPC-suorituskyvyn. Saat 114 SM:ää yhteensä 14 592 CUDA-ytimellä, 456 tensoriytimellä ja jopa kolmella FP8 TFLOP:lla (FP16 kumulatiivinen) suorituskyky. Grafiikkasuorittimessa on 80 Gb HBM2e-muisti, joka on konfiguroitu 5120-bittiselle rajapinnalle, ja sen TDP on 350 wattia. Mitä tulee TDP:hen, koska Superchip-moduulin teho on noin 2700 W, odota suuremman GB200 NVL4 -ratkaisun kuluttavan lähemmäs 6000 W tehoa.