NVIDIA ने नया AI समाधान हार्डवेयर प्लेटफ़ॉर्म जारी किया

19 नवंबर को, कृत्रिम बुद्धिमत्ता (एआई) चिप निर्माता NVIDIA ने आधिकारिक तौर पर ब्लैकवेल GB200 NVL4 और हॉपर H200 NVL नाम से दो नए AI समाधान हार्डवेयर प्लेटफॉर्म लॉन्च किए। उनमें से, NVIDIA GB200 NVL4 एक बिल्कुल नया मॉड्यूल है, जो मूल GB200 ग्रेस ब्लैकवेल सुपरचिप AI समाधान पर आधारित एक बड़ा विस्तार है। GB200 NVL4 मॉड्यूल एक बड़े मदरबोर्ड पर दो ब्लैकवेल GB200 GPU को कॉन्फ़िगर करता है, यानी इसमें दो ग्रेस CPU और चार ब्लैकवेल B200 GPU हैं। मॉड्यूल को 4-GPU NVLINK डोमेन और 1.3T सुसंगत मेमोरी के साथ एकल सर्वर समाधान के रूप में डिज़ाइन किया गया है। प्रदर्शन के संदर्भ में, मॉड्यूल सिमुलेशन प्रदर्शन में 2.2 गुना और प्रशिक्षण और अनुमान प्रदर्शन में 1.8 गुना सुधार करेगा। NVIDIA के भागीदार आने वाले महीनों में NVL4 समाधान प्रदान करेंगे। इसके अतिरिक्त, PCIe-आधारित हॉपर H200 NVL अब आम तौर पर उपलब्ध है, और ये कार्ड NVLINK डोमेन के माध्यम से 4 GPU तक कनेक्ट हो सकते हैं, जो मानक PCIe समाधानों की तुलना में 7x तेज़ बैंडविड्थ प्रदान करते हैं। एनवीडिया का कहना है कि एच200 एनवीएल समाधान किसी भी डेटा सेंटर में फिट हो सकता है और मिश्रित एचपीसी और एआई वर्कलोड के लिए अनुकूलित लचीले सर्वर कॉन्फ़िगरेशन की एक श्रृंखला प्रदान करता है। विशिष्टताओं के संदर्भ में, हॉपर एच200 एनवीएल समाधान 1.5x एचबीएम मेमोरी, 1.7x एलएलएम अनुमान प्रदर्शन और 1.3x एचपीसी प्रदर्शन प्रदान करता है। आपको कुल 14592 सीयूडीए कोर, 456 टेंसर कोर और 3 एफपी8 टीएफएलओपी (एफपी16 संचयी) प्रदर्शन के लिए 114 एसएम मिलते हैं। जीपीयू में 5120-बिट इंटरफ़ेस पर कॉन्फ़िगर की गई 80 जीबी एचबीएम2ई मेमोरी है और इसमें 350 वाट का टीडीपी है। टीडीपी के लिए, चूंकि सुपरचिप मॉड्यूल लगभग 2700W है, इसलिए उम्मीद है कि बड़ा GB200 NVL4 समाधान लगभग 6000W बिजली की खपत करेगा।