NVIDIA Blackwell GPU ຄ່າໃຊ້ຈ່າຍແລະການບໍລິໂພກພະລັງງານຫຼຸດລົງຢ່າງຫຼວງຫຼາຍ

2024-12-25 06:11
 72
GB200 ປະກອບດ້ວຍສອງ B200 Blackwell GPUs ແລະ Arm-based Grace CPU ການປະຕິບັດການ inference ຮູບແບບພາສາຂະຫນາດໃຫຍ່ແມ່ນສູງກວ່າ 30 ເທົ່າຂອງ H100, ແລະຄ່າໃຊ້ຈ່າຍແລະການບໍລິໂພກພະລັງງານແມ່ນຫຼຸດລົງເປັນ 1-25th.