NVIDIA stel nuwe hardewareplatform vir AI-oplossing vry

Op 19 November het kunsmatige intelligensie (AI)-skyfievervaardiger NVIDIA amptelik twee nuwe KI-oplossing hardeware-platforms bekendgestel, naamlik Blackwell GB200 NVL4 en Hopper H200 NVL. Onder hulle is NVIDIA GB200 NVL4 'n splinternuwe module, wat 'n groter uitbreiding is gebaseer op die oorspronklike GB200 Grace Blackwell Superchip AI-oplossing. Die GB200 NVL4-module konfigureer twee Blackwell GB200 GPU's op 'n groter moederbord, dit wil sê, dit het twee Grace-SVE's en vier Blackwell B200 GPU's. Die module is ontwerp as 'n enkele bedieneroplossing met 4-GPU NVLINK-domeine en 1.3T-koherente geheue. Wat prestasie betref, sal die module simulasieprestasie met 2,2 keer verbeter en opleiding- en afleidingsprestasie met 1,8 keer. NVIDIA se vennote sal in die komende maande NVL4-oplossings verskaf. Boonop is PCIe-gebaseerde Hopper H200 NVL nou algemeen beskikbaar, en hierdie kaarte kan tot 4 GPU's via die NVLINK-domein koppel, wat tot 7x vinniger bandwydte lewer as standaard PCIe-oplossings. Nvidia sê die H200 NVL-oplossing kan in enige datasentrum pas en bied 'n reeks buigsame bedienerkonfigurasies wat geoptimaliseer is vir gemengde HPC- en KI-werkladings. Wat spesifikasies betref, bied die Hopper H200 NVL-oplossing 1.5x HBM-geheue, 1.7x LLM-afleidingsverrigting en 1.3x HPC-werkverrigting. Jy kry 114 SM'e vir 'n totaal van 14592 CUDA-kerne, 456 tensor-kerne en tot 3 FP8 TFLOP's (FP16 kumulatiewe) prestasie. Die GPU beskik oor 80 Gb HBM2e geheue gekonfigureer oor 5120-bis koppelvlak en het 'n TDP van 350 Watt. Wat TDP betref, aangesien die Superchip-module ongeveer 2700W is, verwag dat die groter GB200 NVL4-oplossing nader aan 6000W krag sal verbruik.