英伟达Blackwell GPU性能强大,功耗大幅降低
B20
B200
Blackwell
GB200
推理
芯片
性能
训练
语言
语言模型
模型
负载
功率
数模
成本
功耗
AI
2024-03-19 16:39
91
英伟达表示,使用Blackwell GPU训练一个1.8万亿参数模型,仅需2000个Blackwell GPU,功耗仅为4兆瓦,而之前使用8000个Hopper GPU时需要15兆瓦的功率。此外,英伟达还推出了AI超级芯片GB2000,为大语言模型推理工作负载提供30倍的性能,成本能耗比Hopper低25倍。
Prev:印度班加罗尔仓储机器人初创公司Accio Robotics融资180万美元
Next:英伟达推出全新大型机架系统GB200 NVL72,加速生成式AI能力
快报
一手资料
数据
个人中心