NVIDIA išleido naują AI sprendimų aparatinės įrangos platformą

Lapkričio 19 d. dirbtinio intelekto (AI) lustų gamintoja NVIDIA oficialiai pristatė dvi naujas dirbtinio intelekto sprendimų aparatinės įrangos platformas – Blackwell GB200 NVL4 ir Hopper H200 NVL. Tarp jų, NVIDIA GB200 NVL4 yra visiškai naujas modulis, kuris yra didesnis išplėtimas, pagrįstas originaliu GB200 Grace Blackwell Superchip AI sprendimu. GB200 NVL4 modulis sukonfigūruoja du „Blackwell GB200“ GPU didesnėje pagrindinėje plokštėje, tai yra, turi du „Grace“ procesorius ir keturis „Blackwell B200“ GPU. Modulis sukurtas kaip vieno serverio sprendimas su 4 GPU NVLINK domenais ir 1.3T nuoseklia atmintimi. Kalbant apie našumą, modulis pagerins modeliavimo našumą 2,2 karto, o mokymo ir išvadų našumą - 1,8 karto. NVIDIA partneriai artimiausiais mėnesiais pateiks NVL4 sprendimus. Be to, dabar plačiai galima įsigyti PCIe pagrindu sukurtą „Hopper H200 NVL“, o šios kortelės gali prijungti iki 4 GPU per NVLINK domeną, užtikrindamos iki 7 kartų didesnį pralaidumą nei standartiniai PCIe sprendimai. „Nvidia“ teigia, kad H200 NVL sprendimas gali tilpti į bet kurį duomenų centrą ir siūlo daugybę lanksčių serverio konfigūracijų, optimizuotų mišriam HPC ir AI darbo krūviui. Kalbant apie specifikacijas, Hopper H200 NVL sprendimas suteikia 1,5x HBM atmintį, 1,7x LLM išvadų našumą ir 1,3x HPC našumą. Jūs gaunate 114 SM, iš viso 14592 CUDA branduolius, 456 tenzorinius branduolius ir iki 3 FP8 TFLOP (FP16 kumuliacinio) našumo. GPU turi 80 Gb HBM2e atmintį, sukonfigūruotą 5120 bitų sąsajoje, o TDP yra 350 vatų. Kalbant apie TDP, kadangi Superchip modulis yra apie 2700 W, tikėkitės, kad didesnis GB200 NVL4 sprendimas sunaudos arčiau 6000 W energijos.