NVIDIA випускає нову апаратну платформу рішення штучного інтелекту

19 листопада виробник чіпів зі штучним інтелектом (ШІ) NVIDIA офіційно запустив дві нові апаратні платформи рішень ШІ, а саме Blackwell GB200 NVL4 і Hopper H200 NVL. Серед них NVIDIA GB200 NVL4 — абсолютно новий модуль, який є більшим розширенням на основі оригінального рішення GB200 Grace Blackwell Superchip AI. Модуль GB200 NVL4 налаштовує два GPU Blackwell GB200 на більшу материнську плату, тобто він має два CPU Grace і чотири GPU Blackwell B200. Модуль розроблено як єдине серверне рішення з доменами NVLINK 4 GPU та когерентною пам’яттю 1,3 ТБ. З точки зору продуктивності, модуль покращить ефективність моделювання в 2,2 рази, а ефективність навчання та висновків у 1,8 рази. Партнери NVIDIA нададуть рішення NVL4 у найближчі місяці. Крім того, Hopper H200 NVL на основі PCIe тепер загальнодоступний, і ці карти можуть підключати до 4 графічних процесорів через домен NVLINK, забезпечуючи до 7 разів більшу пропускну здатність, ніж стандартні рішення PCIe. Nvidia заявляє, що рішення H200 NVL може вписатися в будь-який центр обробки даних і пропонує низку гнучких конфігурацій серверів, оптимізованих для змішаних робочих навантажень HPC і AI. З точки зору специфікацій, рішення Hopper H200 NVL забезпечує 1,5x пам’ять HBM, 1,7x LLM продуктивність логічного висновку та 1,3x продуктивність HPC. Ви отримуєте 114 SM із загальною кількістю 14592 ядер CUDA, 456 тензорних ядер і до 3 FP8 TFLOP (сукупна продуктивність FP16). Графічний процесор має 80 Гб пам’яті HBM2e, налаштованої через 5120-бітний інтерфейс, і має TDP 350 Вт. Що стосується TDP, оскільки модуль Superchip становить близько 2700 Вт, очікуйте, що більший модуль GB200 NVL4 споживатиме ближче до 6000 Вт.