英偉達Blackwell GPU效能強大,耗電量大幅降低

2024-12-26 04:56
 91
英偉達表示,使用Blackwell GPU訓練一個1.8兆參數模型,只需2000個Blackwell GPU,功耗僅4兆瓦,而之前使用8000個Hopper GPU時需要15兆瓦的功率。此外,英偉達也推出了AI超級晶片GB2000,為大語言模型推理工作負載提供30倍的效能,成本能耗比Hopper低25倍。