ค่าใช้จ่าย NVIDIA Blackwell GPU และการใช้พลังงานลดลงอย่างมาก

2024-12-25 06:11
 72
GB200 ประกอบด้วย B200 Blackwell GPU สองตัวและ Grace CPU แบบ Arm ประสิทธิภาพของการอนุมานโมเดลภาษาขนาดใหญ่นั้นสูงกว่า H100 ถึง 30 เท่า และต้นทุนและการใช้พลังงานลดลงเหลือหนึ่งใน 25