Performanse Intel Gaudi 3 akceleratora nadmašuju NVIDIA H100

2024-12-25 23:42
 73
Intel tvrdi da je Gaudi 3 akcelerator stekao prednost u konkurenciji s NVIDIA H100. Gaudi 3 radi 1,7 puta brže od H100 kada trenira Llama2-13B na FP8 preciznosti preko klastera sa 16 akceleratora. Osim toga, Gaudi 3 također je značajno poboljšao performanse H200/H100 zaključivanja, povećanjem od 1,3 puta do 1,5 puta, a energetska učinkovitost povećana je do 2,3 puta.