NVIDIA yeni yapay zeka çözümü donanım platformunu piyasaya sürüyor

Yapay zeka (AI) çip üreticisi NVIDIA, 19 Kasım'da Blackwell GB200 NVL4 ve Hopper H200 NVL olmak üzere iki yeni AI çözüm donanım platformunu resmi olarak piyasaya sürdü. Bunlar arasında, NVIDIA GB200 NVL4, orijinal GB200 Grace Blackwell Superchip AI çözümünü temel alan daha büyük bir genişletme olan yepyeni bir modüldür. GB200 NVL4 modülü, daha büyük bir anakart üzerinde iki Blackwell GB200 GPU'yu yapılandırır; yani iki Grace CPU'ya ve dört Blackwell B200 GPU'ya sahiptir. Modül, 4 GPU'lu NVLINK alan adları ve 1,3 T tutarlı belleğe sahip tek sunucu çözümü olarak tasarlanmıştır. Performans açısından modül, simülasyon performansını 2,2 kat, eğitim ve çıkarım performansını ise 1,8 kat artıracak. NVIDIA'nın ortakları önümüzdeki aylarda NVL4 çözümleri sağlayacak. Ek olarak, PCIe tabanlı Hopper H200 NVL artık genel kullanıma sunuldu ve bu kartlar, NVLINK alanı aracılığıyla 4 adede kadar GPU'ya bağlanarak standart PCIe çözümlerine göre 7 kata kadar daha hızlı bant genişliği sunabiliyor. Nvidia, H200 NVL çözümünün her türlü veri merkezine sığabileceğini ve karma HPC ve AI iş yükleri için optimize edilmiş bir dizi esnek sunucu yapılandırması sunduğunu söylüyor. Spesifikasyonlar açısından Hopper H200 NVL çözümü, 1,5x HBM bellek, 1,7x LLM çıkarım performansı ve 1,3x HPC performansı sağlar. Toplam 14592 CUDA çekirdeği, 456 tensör çekirdeği ve 3 adede kadar FP8 TFLOP (FP16 kümülatif) performansı için 114 SM elde edersiniz. GPU, 5120 bit arayüzde yapılandırılmış 80 Gb HBM2e belleğe sahiptir ve 350 Watt TDP'ye sahiptir. TDP'ye gelince, Superchip modülü 2700W civarında olduğundan, daha büyük GB200 NVL4 çözümünün 6000W'a yakın güç tüketmesini bekleyebilirsiniz.