NVIDIA yangi AI yechim apparat platformasini chiqaradi

19-noyabr kuni sun'iy intellekt (AI) chip ishlab chiqaruvchisi NVIDIA ikkita yangi sun'iy intellekt yechimi apparat platformalarini, ya'ni Blackwell GB200 NVL4 va Hopper H200 NVLni rasman ishga tushirdi. Ular orasida NVIDIA GB200 NVL4 mutlaqo yangi modul bo'lib, u GB200 Grace Blackwell Superchip AI asl yechimiga asoslangan kattaroq kengaytma hisoblanadi. GB200 NVL4 moduli kattaroq anakartda ikkita Blackwell GB200 GPU-ni sozlaydi, ya'ni ikkita Grace protsessoriga va to'rtta Blackwell B200 GPU-ga ega. Modul 4-GPU NVLINK domenlari va 1,3T kogerent xotiraga ega yagona server yechimi sifatida ishlab chiqilgan. Ishlash nuqtai nazaridan modul simulyatsiya samaradorligini 2,2 baravar va o'qitish va xulosa chiqarish samaradorligini 1,8 baravar yaxshilaydi. NVIDIA hamkorlari kelgusi oylarda NVL4 yechimlarini taqdim etadilar. Bundan tashqari, PCIe-ga asoslangan Hopper H200 NVL hozirda mavjud va bu kartalar NVLINK domeni orqali 4 tagacha grafik protsessorni ulashi mumkin, bu esa standart PCIe yechimlariga qaraganda 7 barobar tezroq o‘tkazish qobiliyatini ta’minlaydi. Nvidia'ning ta'kidlashicha, H200 NVL yechimi har qanday ma'lumot markaziga mos kelishi mumkin va aralash HPC va AI ish yuklari uchun optimallashtirilgan bir qator moslashuvchan server konfiguratsiyalarini taklif qiladi. Xususiyatlar nuqtai nazaridan, Hopper H200 NVL yechimi 1,5x HBM xotirasi, 1,7x LLM xulosasi va 1,3x HPC ishlashini ta'minlaydi. Siz jami 14592 CUDA yadrosi, 456 tenzor yadrosi va 3 tagacha FP8 TFLOP (FP16 jami) ishlashi uchun 114 SM olasiz. GPU 5120 bitli interfeys bo'ylab sozlangan 80 Gb HBM2e xotirasiga ega va 350 vatt TDPga ega. TDPga kelsak, Superchip moduli taxminan 2700 Vt bo'lganligi sababli, kattaroq GB200 NVL4 yechimi 6000 Vtga yaqinroq quvvat iste'mol qilishini kuting.