NVIDIA AI шийдлийн шинэ техник хангамжийн платформыг гаргалаа

11-р сарын 19-нд хиймэл оюун ухаан (AI) чип үйлдвэрлэгч NVIDIA Blackwell GB200 NVL4 болон Hopper H200 NVL гэсэн хоёр шинэ хиймэл оюун ухааны шийдлийн техник хангамжийн платформыг албан ёсоор эхлүүлэв. Тэдгээрийн дотроос NVIDIA GB200 NVL4 нь цоо шинэ модуль бөгөөд анхны GB200 Grace Blackwell Superchip AI шийдэл дээр суурилсан илүү том өргөтгөл юм. GB200 NVL4 модуль нь том эх хавтан дээр хоёр Blackwell GB200 GPU-г тохируулдаг, өөрөөр хэлбэл хоёр Grace CPU, дөрвөн Blackwell B200 GPU-тэй. Модуль нь 4-GPU NVLINK домэйн, 1.3T когерент санах ой бүхий нэг серверийн шийдэл хэлбэрээр бүтээгдсэн. Гүйцэтгэлийн хувьд модуль нь симуляцийн гүйцэтгэлийг 2.2 дахин, сургалт, дүгнэлтийн гүйцэтгэлийг 1.8 дахин сайжруулах болно. NVIDIA-ийн түншүүд ирэх саруудад NVL4 шийдлүүдийг өгөх болно. Нэмж дурдахад, PCIe-д суурилсан Hopper H200 NVL одоо ерөнхийдөө бэлэн болсон бөгөөд эдгээр картууд нь NVLINK домэйнээр дамжуулан 4 хүртэлх GPU-г холбож, стандарт PCIe шийдлүүдээс 7 дахин хурдан зурвасын өргөнийг хүргэх боломжтой. Nvidia H200 NVL шийдэл нь ямар ч өгөгдлийн төвд багтах боломжтой бөгөөд HPC болон AI-ийн холимог ачаалалд тохирсон уян хатан серверийн тохиргоог санал болгодог. Үзүүлэлтийн хувьд Hopper H200 NVL шийдэл нь 1.5x HBM санах ой, 1.7x LLM дүгнэлт гүйцэтгэл, 1.3x HPC гүйцэтгэлийг хангадаг. Та нийт 14592 CUDA цөм, 456 тензор цөм, 3 хүртэлх FP8 TFLOP (FP16 хуримтлагдсан) гүйцэтгэлийн хувьд 114 SM авах болно. GPU нь 5120 битийн интерфэйс дээр тохируулагдсан 80 Гб HBM2e санах ойтой бөгөөд 350 ваттын TDP хүчин чадалтай. TDP-ийн хувьд, Superchip модуль нь 2700W орчим байдаг тул GB200 NVL4-ийн том шийдэл нь 6000W-д ойртоно гэж найдаж байна.