NVIDIA vydává novou hardwarovou platformu řešení AI

Dne 19. listopadu výrobce čipů umělé inteligence (AI) NVIDIA oficiálně spustil dvě nové hardwarové platformy řešení AI, konkrétně Blackwell GB200 NVL4 a Hopper H200 NVL. Mezi nimi je zcela nový modul NVIDIA GB200 NVL4, který je větším rozšířením založeným na původním řešení GB200 Grace Blackwell Superchip AI. Modul GB200 NVL4 konfiguruje dvě GPU Blackwell GB200 na větší základní desce, to znamená, že má dvě CPU Grace a čtyři GPU Blackwell B200. Modul je navržen jako jednoserverové řešení se 4-GPU NVLINK doménami a 1,3T koherentní pamětí. Pokud jde o výkon, modul zlepší výkon simulace 2,2krát a výkon školení a odvození 1,8krát. Partneři společnosti NVIDIA poskytnou řešení NVL4 v nadcházejících měsících. Navíc je nyní běžně dostupný Hopper H200 NVL založený na PCIe a tyto karty mohou připojit až 4 GPU přes doménu NVLINK, což poskytuje až 7x rychlejší šířku pásma než standardní řešení PCIe. Nvidia říká, že řešení H200 NVL se vejde do jakéhokoli datového centra a nabízí řadu flexibilních konfigurací serverů optimalizovaných pro smíšenou pracovní zátěž HPC a AI. Pokud jde o specifikace, řešení Hopper H200 NVL poskytuje 1,5x paměť HBM, 1,7x výkon LLM inference a 1,3x výkon HPC. Získáte 114 SM za celkem 14592 CUDA jader, 456 tensor jader a až 3 FP8 TFLOP (kumulativní FP16) výkon. GPU obsahuje 80 GB paměti HBM2e nakonfigurovanou přes 5120bitové rozhraní a má TDP 350 wattů. Pokud jde o TDP, protože modul Superchip je kolem 2700 W, počítejte s tím, že větší řešení GB200 NVL4 bude mít spotřebu blíže k 6000 W.