انویدیا پلتفرم سخت افزاری راه حل جدید هوش مصنوعی را منتشر کرد

در 19 نوامبر، سازنده تراشه هوش مصنوعی (AI) NVIDIA رسما دو پلتفرم سخت افزاری راه حل هوش مصنوعی جدید به نام های Blackwell GB200 NVL4 و Hopper H200 NVL را راه اندازی کرد. در میان آنها، NVIDIA GB200 NVL4 یک ماژول کاملاً جدید است که یک توسعه بزرگتر بر اساس راه حل اصلی GB200 Grace Blackwell Superchip AI است. ماژول GB200 NVL4 دو پردازنده گرافیکی Blackwell GB200 را روی یک مادربرد بزرگتر پیکربندی می کند، یعنی دارای دو پردازنده Grace و چهار پردازنده گرافیکی Blackwell B200 است. این ماژول به عنوان یک راه حل سرور واحد با دامنه های 4-GPU NVLINK و حافظه منسجم 1.3T طراحی شده است. از نظر عملکرد، ماژول عملکرد شبیه سازی را 2.2 برابر و عملکرد آموزش و استنتاج را 1.8 برابر بهبود می بخشد. شرکای NVIDIA راه حل های NVL4 را در ماه های آینده ارائه خواهند کرد. علاوه بر این، Hopper H200 NVL مبتنی بر PCIe اکنون به طور کلی در دسترس است، و این کارت‌ها می‌توانند تا 4 GPU را از طریق دامنه NVLINK متصل کنند و پهنای باندی تا 7 برابر سریع‌تر از راه‌حل‌های PCIe استاندارد ارائه دهند. انویدیا می‌گوید راه‌حل H200 NVL می‌تواند در هر مرکز داده مناسب باشد و طیف وسیعی از پیکربندی‌های سرور انعطاف‌پذیر را ارائه می‌دهد که برای بارهای کاری ترکیبی HPC و AI بهینه شده‌اند. از نظر مشخصات، راه حل Hopper H200 NVL 1.5x حافظه HBM، 1.7x عملکرد استنتاج LLM، و 1.3x عملکرد HPC ارائه می دهد. شما 114 اس ام اس برای مجموع 14592 هسته CUDA، 456 هسته تانسور و حداکثر 3 عملکرد FP8 TFLOP (FP16 تجمعی) دریافت می کنید. GPU دارای حافظه 80 گیگابایتی HBM2e است که روی رابط 5120 بیتی پیکربندی شده و دارای TDP 350 وات است. در مورد TDP، از آنجایی که ماژول Superchip حدود 2700 وات است، انتظار می رود راه حل بزرگتر GB200 NVL4 نزدیک به 6000 وات برق مصرف کند.