NVIDIA vydáva novú hardvérovú platformu riešenia AI

19. novembra výrobca čipov umelej inteligencie (AI) NVIDIA oficiálne spustil dve nové hardvérové ​​platformy riešenia AI, konkrétne Blackwell GB200 NVL4 a Hopper H200 NVL. Medzi nimi je úplne nový modul NVIDIA GB200 NVL4, ktorý predstavuje väčšie rozšírenie založené na pôvodnom riešení GB200 Grace Blackwell Superchip AI. Modul GB200 NVL4 konfiguruje dva GPU Blackwell GB200 na väčšej základnej doske, to znamená, že má dva CPU Grace a štyri GPU Blackwell B200. Modul je navrhnutý ako jednoserverové riešenie so 4-GPU NVLINK doménami a 1,3T koherentnou pamäťou. Pokiaľ ide o výkon, modul zlepší výkon simulácie 2,2-krát a tréningový a inferenčný výkon 1,8-krát. Partneri NVIDIA poskytnú riešenia NVL4 v nasledujúcich mesiacoch. Okrem toho je teraz všeobecne dostupný Hopper H200 NVL založený na PCIe a tieto karty môžu pripojiť až 4 GPU cez doménu NVLINK, čím poskytujú až 7x rýchlejšiu šírku pásma ako štandardné riešenia PCIe. Nvidia hovorí, že riešenie H200 NVL sa zmestí do akéhokoľvek dátového centra a ponúka celý rad flexibilných konfigurácií serverov optimalizovaných pre zmiešané pracovné zaťaženie HPC a AI. Pokiaľ ide o špecifikácie, riešenie Hopper H200 NVL poskytuje 1,5x HBM pamäť, 1,7x LLM výkon odvodenia a 1,3x HPC výkon. Získate 114 SM za celkovo 14592 CUDA jadier, 456 tensor jadier a až 3 FP8 TFLOPs (FP16 kumulatívny) výkon. GPU obsahuje 80 Gb HBM2e pamäť nakonfigurovanú cez 5120-bitové rozhranie a má TDP 350 wattov. Pokiaľ ide o TDP, pretože modul Superchip je okolo 2700 W, očakávajte, že väčšie riešenie GB200 NVL4 spotrebuje viac ako 6000 W.