NVIDIA melancarkan sistem rak berskala besar baharu GB200 NVL72 untuk mempercepatkan keupayaan AI generatif

84
Berdasarkan Blackwell, NVIDIA telah melancarkan sistem rak berskala besar baharu GB200 NVL72. Menampilkan 72 GPU Blackwell dan 36 GPU Grace, sistem ini mempunyai 1.4 exaflop prestasi AI dan 30TB memori pantas. Nvidia berkata bahawa sistem itu boleh menggunakan model dengan 27 trilion parameter, manakala model terbesar semasa, GPT-4, hanya mempunyai kira-kira 1.7 trilion parameter, jadi ia boleh mempercepatkan pelepasan keupayaan AI generatif.