NVIDIA пуска нова хардуерна платформа за AI решение

На 19 ноември производителят на чипове с изкуствен интелект (AI) NVIDIA официално пусна две нови хардуерни платформи за решения за изкуствен интелект, а именно Blackwell GB200 NVL4 и Hopper H200 NVL. Сред тях, NVIDIA GB200 NVL4 е чисто нов модул, който е по-голямо разширение, базирано на оригиналното GB200 Grace Blackwell Superchip AI решение. Модулът GB200 NVL4 конфигурира два графични процесора Blackwell GB200 на по-голяма дънна платка, тоест има два процесора Grace и четири графични процесора Blackwell B200. Модулът е проектиран като едно сървърно решение с 4-GPU NVLINK домейни и 1.3T кохерентна памет. По отношение на производителността, модулът ще подобри производителността на симулацията с 2,2 пъти и производителността на обучение и извод с 1,8 пъти. Партньорите на NVIDIA ще предоставят NVL4 решения през следващите месеци. Освен това PCIe-базиран Hopper H200 NVL вече е общодостъпен и тези карти могат да свързват до 4 GPU чрез NVLINK домейна, осигурявайки до 7 пъти по-бърза честотна лента от стандартните PCIe решения. Nvidia казва, че решението H200 NVL може да се побере във всеки център за данни и предлага набор от гъвкави сървърни конфигурации, оптимизирани за смесени HPC и AI натоварвания. По отношение на спецификациите, решението Hopper H200 NVL осигурява 1,5x HBM памет, 1,7x LLM производителност на изводи и 1,3x HPC производителност. Получавате 114 SM за общо 14592 CUDA ядра, 456 тензорни ядра и до 3 FP8 TFLOP (FP16 кумулативна) производителност. GPU разполага с 80 Gb HBM2e памет, конфигурирана през 5120-битов интерфейс и има TDP от 350 вата. Що се отнася до TDP, тъй като модулът Superchip е около 2700 W, очаквайте по-голямото решение GB200 NVL4 да консумира по-близо до 6000 W мощност.