Inilunsad ng NVIDIA ang bagong large-scale rack system na GB200 NVL72 upang mapabilis ang mga kakayahan sa pagbuo ng AI

2024-12-26 04:57
 84
Batay sa Blackwell, ang NVIDIA ay naglunsad ng bagong malakihang rack system na GB200 NVL72. Nagtatampok ng 72 Blackwell GPU at 36 na Grace GPU, ipinagmamalaki ng system ang 1.4 exaflops ng AI performance at 30TB ng mabilis na memorya. Sinabi ni Nvidia na ang system ay maaaring mag-deploy ng mga modelo na may 27 trilyong parameter, habang ang kasalukuyang pinakamalaking modelo, ang GPT-4, ay mayroon lamang humigit-kumulang 1.7 trilyon na mga parameter, kaya maaari nitong mapabilis ang pagpapalabas ng mga generative AI na kakayahan.