NVIDIA mengeluarkan platform perkakasan penyelesaian AI baharu

Pada 19 November, pembuat cip kecerdasan buatan (AI) NVIDIA secara rasmi melancarkan dua platform perkakasan penyelesaian AI baharu, iaitu Blackwell GB200 NVL4 dan Hopper H200 NVL. Antaranya, NVIDIA GB200 NVL4 ialah modul serba baharu, yang merupakan pengembangan yang lebih besar berdasarkan penyelesaian asal GB200 Grace Blackwell Superchip AI. Modul GB200 NVL4 mengkonfigurasi dua GPU Blackwell GB200 pada papan induk yang lebih besar, iaitu, ia mempunyai dua CPU Grace dan empat GPU Blackwell B200. Modul ini direka bentuk sebagai penyelesaian pelayan tunggal dengan domain 4-GPU NVLINK dan memori koheren 1.3T. Dari segi prestasi, modul akan meningkatkan prestasi simulasi sebanyak 2.2 kali dan latihan dan prestasi inferens sebanyak 1.8 kali. Rakan kongsi NVIDIA akan menyediakan penyelesaian NVL4 dalam beberapa bulan akan datang. Selain itu, Hopper H200 NVL berasaskan PCIe kini tersedia secara amnya, dan kad ini boleh menyambung sehingga 4 GPU melalui domain NVLINK, memberikan lebar jalur sehingga 7x lebih pantas daripada penyelesaian PCIe standard. Nvidia berkata penyelesaian H200 NVL boleh dimuatkan ke dalam mana-mana pusat data dan menawarkan rangkaian konfigurasi pelayan fleksibel yang dioptimumkan untuk beban kerja HPC dan AI bercampur. Dari segi spesifikasi, penyelesaian Hopper H200 NVL menyediakan 1.5x memori HBM, 1.7x prestasi inferens LLM dan 1.3x prestasi HPC. Anda mendapat 114 SM untuk sejumlah 14592 teras CUDA, 456 teras tensor dan sehingga 3 prestasi FP8 TFLOP (FP16 kumulatif). GPU mempunyai memori 80 Gb HBM2e yang dikonfigurasikan merentas antara muka 5120-bit dan mempunyai TDP sebanyak 350 Watt. Bagi TDP, memandangkan modul Superchip adalah sekitar 2700W, jangkakan penyelesaian GB200 NVL4 yang lebih besar untuk menggunakan lebih hampir kepada 6000W kuasa.