英特尔Gaudi 3加速器性能超越NVIDIA H100

2024-04-11 20:20
 73
英特尔宣称,Gaudi 3加速器在与NVIDIA H100的竞争中取得了优势。在16个加速器集群中以FP8精度训练Llama2-13B时,Gaudi 3的性能比H100快1.7倍。此外,Gaudi 3在H200/H100推理性能方面也有显著提升,提高1.3倍至1.5倍,能效提高至2.3倍。