NVIDIA lanza el nuevo sistema de rack a gran escala GB200 NVL72 para acelerar las capacidades de IA generativa

84
Basado en Blackwell, NVIDIA ha lanzado un nuevo sistema rack a gran escala GB200 NVL72. Con 72 GPU Blackwell y 36 GPU Grace, el sistema cuenta con 1,4 exaflops de rendimiento de IA y 30 TB de memoria rápida. Nvidia dijo que el sistema puede implementar modelos con 27 billones de parámetros, mientras que el modelo más grande actual, GPT-4, solo tiene alrededor de 1,7 billones de parámetros, por lo que puede acelerar el lanzamiento de capacidades de IA generativa.