NVIDIA নতুন এআই সলিউশন হার্ডওয়্যার প্ল্যাটফর্ম প্রকাশ করেছে

19 নভেম্বর, কৃত্রিম বুদ্ধিমত্তা (AI) চিপ নির্মাতা NVIDIA আনুষ্ঠানিকভাবে দুটি নতুন AI সমাধান হার্ডওয়্যার প্ল্যাটফর্ম চালু করেছে, যথা Blackwell GB200 NVL4 এবং Hopper H200 NVL৷ তাদের মধ্যে, NVIDIA GB200 NVL4 হল একটি একেবারে নতুন মডিউল, যা মূল GB200 Grace Blackwell Superchip AI সমাধানের উপর ভিত্তি করে একটি বৃহত্তর সম্প্রসারণ। GB200 NVL4 মডিউলটি একটি বড় মাদারবোর্ডে দুটি ব্ল্যাকওয়েল GB200 GPU কনফিগার করে, অর্থাৎ এতে দুটি গ্রেস সিপিইউ এবং চারটি ব্ল্যাকওয়েল বি200 জিপিইউ রয়েছে৷ মডিউলটি 4-GPU NVLINK ডোমেন এবং 1.3T সুসংগত মেমরি সহ একটি একক সার্ভার সমাধান হিসাবে ডিজাইন করা হয়েছে। কর্মক্ষমতার পরিপ্রেক্ষিতে, মডিউলটি সিমুলেশন কর্মক্ষমতা 2.2 গুণ এবং প্রশিক্ষণ এবং অনুমান কার্যক্ষমতা 1.8 গুণ উন্নত করবে। NVIDIA এর অংশীদাররা আগামী মাসে NVL4 সমাধান প্রদান করবে। অতিরিক্তভাবে, PCIe-ভিত্তিক Hopper H200 NVL এখন সাধারণভাবে উপলব্ধ, এবং এই কার্ডগুলি NVLINK ডোমেনের মাধ্যমে 4 GPU- পর্যন্ত সংযোগ করতে পারে, যা মান PCIe সমাধানগুলির তুলনায় 7x দ্রুত ব্যান্ডউইথ সরবরাহ করে। এনভিডিয়া বলে যে H200 NVL সমাধান যেকোনো ডেটা সেন্টারে ফিট করতে পারে এবং মিশ্র এইচপিসি এবং এআই ওয়ার্কলোডের জন্য অপ্টিমাইজ করা নমনীয় সার্ভার কনফিগারেশনের একটি পরিসীমা অফার করে। স্পেসিফিকেশনের ক্ষেত্রে, Hopper H200 NVL সলিউশন 1.5x HBM মেমরি, 1.7x LLM ইনফারেন্স পারফরম্যান্স এবং 1.3x HPC পারফরম্যান্স প্রদান করে। আপনি মোট 14592 CUDA কোর, 456 টেনসর কোর এবং 3 FP8 TFLOPs (FP16 ক্রমবর্ধমান) পারফরম্যান্সের জন্য 114 টি এসএমএস পাবেন। GPU বৈশিষ্ট্যগুলি 80 Gb HBM2e মেমরি 5120-বিট ইন্টারফেস জুড়ে কনফিগার করা হয়েছে এবং একটি TDP 350 ওয়াট রয়েছে৷ TDP-এর ক্ষেত্রে, যেহেতু সুপারচিপ মডিউলটি 2700W এর কাছাকাছি, আশা করুন বড় GB200 NVL4 সমাধানটি 6000W এর কাছাকাছি শক্তি ব্যবহার করবে।