Η NVIDIA κυκλοφορεί νέα πλατφόρμα υλικού λύσεων AI

Στις 19 Νοεμβρίου, η εταιρεία κατασκευής τσιπ τεχνητής νοημοσύνης (AI) NVIDIA παρουσίασε επίσημα δύο νέες πλατφόρμες υλικού λύσεων τεχνητής νοημοσύνης, τις Blackwell GB200 NVL4 και Hopper H200 NVL. Μεταξύ αυτών, το NVIDIA GB200 NVL4 είναι μια ολοκαίνουργια μονάδα, η οποία είναι μια μεγαλύτερη επέκταση που βασίζεται στην αρχική λύση AI GB200 Grace Blackwell Superchip. Η μονάδα GB200 NVL4 διαμορφώνει δύο GPU Blackwell GB200 σε μια μεγαλύτερη μητρική πλακέτα, δηλαδή έχει δύο Grace CPU και τέσσερις GPU Blackwell B200. Η μονάδα έχει σχεδιαστεί ως λύση ενιαίου διακομιστή με τομείς NVLINK 4-GPU και συνεκτική μνήμη 1.3T. Όσον αφορά την απόδοση, η ενότητα θα βελτιώσει την απόδοση της προσομοίωσης κατά 2,2 φορές και την απόδοση εκπαίδευσης και συμπερασμάτων κατά 1,8 φορές. Οι συνεργάτες της NVIDIA θα παρέχουν λύσεις NVL4 τους επόμενους μήνες. Επιπλέον, το Hopper H200 NVL που βασίζεται σε PCIe είναι πλέον γενικά διαθέσιμο και αυτές οι κάρτες μπορούν να συνδέσουν έως και 4 GPU μέσω του τομέα NVLINK, παρέχοντας έως και 7 φορές ταχύτερο εύρος ζώνης από τις τυπικές λύσεις PCIe. Η Nvidia λέει ότι η λύση H200 NVL μπορεί να χωρέσει σε οποιοδήποτε κέντρο δεδομένων και προσφέρει μια σειρά από ευέλικτες διαμορφώσεις διακομιστή βελτιστοποιημένων για μικτό φόρτο εργασίας HPC και AI. Όσον αφορά τις προδιαγραφές, η λύση Hopper H200 NVL παρέχει μνήμη HBM 1,5x, απόδοση συμπερασμάτων LLM 1,7x και απόδοση HPC 1,3x. Λαμβάνετε 114 SM για συνολικά 14592 πυρήνες CUDA, 456 πυρήνες τανυστήρα και έως και 3 FP8 TFLOP (αθροιστικά FP16) απόδοση. Η GPU διαθέτει μνήμη 80 Gb HBM2e διαμορφωμένη σε διασύνδεση 5120-bit και έχει TDP 350 Watt. Όσο για το TDP, δεδομένου ότι η μονάδα Superchip είναι περίπου 2700W, αναμένετε ότι η μεγαλύτερη λύση GB200 NVL4 θα καταναλώνει πιο κοντά στα 6000 W ενέργειας.