NVIDIA ປ່ອຍແພລະຕະຟອມຮາດແວການແກ້ໄຂ AI ໃໝ່

ວັນທີ 19 ພະຈິກ, ຜູ້ຜະລິດຊິບອັດສະລິຍະປັນຍາປະດິດ (AI) NVIDIA ໄດ້ເປີດຕົວ 2 ແພລດຟອມຮາດແວການແກ້ໄຂ AI ຢ່າງເປັນທາງການ, ຄື Blackwell GB200 NVL4 ແລະ Hopper H200 NVL. ໃນບັນດາພວກເຂົາ, NVIDIA GB200 NVL4 ເປັນໂມດູນໃຫມ່ຍີ່ຫໍ້, ເຊິ່ງເປັນການຂະຫຍາຍຂະຫນາດໃຫຍ່ໂດຍອີງໃສ່ການແກ້ໄຂ AI GB200 Grace Blackwell Superchip ຕົ້ນສະບັບ. ໂມດູນ GB200 NVL4 ກໍານົດສອງ Blackwell GB200 GPUs ໃນເມນບອດຂະຫນາດໃຫຍ່, ນັ້ນແມ່ນ, ມັນມີ CPU Grace ສອງຕົວແລະສີ່ Blackwell B200 GPUs. ໂມດູນໄດ້ຖືກອອກແບບເປັນການແກ້ໄຂເຊີບເວີດຽວທີ່ມີໂດເມນ 4-GPU NVLINK ແລະຄວາມຊົງຈໍາທີ່ສອດຄ່ອງກັນ 1.3T. ໃນແງ່ຂອງການປະຕິບັດ, ໂມດູນຈະປັບປຸງການປະຕິບັດການຈໍາລອງໂດຍ 2.2 ເທື່ອແລະການຝຶກອົບຮົມແລະການປະຕິບັດ inference ໂດຍ 1.8 ເທື່ອ. ຄູ່ຮ່ວມງານຂອງ NVIDIA ຈະສະຫນອງການແກ້ໄຂ NVL4 ໃນເດືອນຂ້າງຫນ້າ. ນອກຈາກນັ້ນ, PCIe-based Hopper H200 NVL ໃນປັດຈຸບັນແມ່ນມີຢູ່ທົ່ວໄປ, ແລະບັດເຫຼົ່ານີ້ສາມາດເຊື່ອມຕໍ່ໄດ້ເຖິງ 4 GPUs ຜ່ານໂດເມນ NVLINK, ສົ່ງແບນວິດໄວກວ່າ 7x ແບນວິດທີ່ໄວກວ່າການແກ້ໄຂ PCIe ມາດຕະຖານ. Nvidia ກ່າວວ່າການແກ້ໄຂ H200 NVL ສາມາດເຂົ້າກັບສູນຂໍ້ມູນໃດໆແລະສະຫນອງການກໍານົດຄ່າເຊີຟເວີທີ່ມີຄວາມຍືດຫຍຸ່ນທີ່ຫລາກຫລາຍທີ່ເຫມາະສົມສໍາລັບການເຮັດວຽກຂອງ HPC ແລະ AI ປະສົມ. ໃນຂໍ້ກໍານົດຂອງສະເພາະ, ການແກ້ໄຂ Hopper H200 NVL ສະຫນອງຫນ່ວຍຄວາມຈໍາ 1.5x HBM, 1.7x LLM inference performance, ແລະ 1.3x HPC ປະສິດທິພາບ. ທ່ານໄດ້ຮັບ 114 SMs ສໍາລັບຈໍານວນທັງຫມົດ 14592 CUDA cores, 456 tensor cores ແລະເຖິງ 3 FP8 TFLOPs (FP16 cumulative). GPU ມີຫນ່ວຍຄວາມຈໍາ 80 Gb HBM2e ທີ່ຖືກຕັ້ງຄ່າໃນທົ່ວການໂຕ້ຕອບ 5120-bit ແລະມີ TDP ຂອງ 350 ວັດ. ສໍາລັບ TDP, ນັບຕັ້ງແຕ່ໂມດູນ Superchip ແມ່ນປະມານ 2700W, ຄາດວ່າການແກ້ໄຂ GB200 NVL4 ຂະຫນາດໃຫຍ່ຈະບໍລິໂພກພະລັງງານຢູ່ໃກ້ກັບ 6000W.