Performanța acceleratorului Intel Gaudi 3 depășește NVIDIA H100

Intel susține că acceleratorul Gaudi 3 a câștigat un avantaj în concurența cu NVIDIA H100. Gaudi 3 funcționează de 1,7 ori mai rapid decât H100 atunci când antrenează Llama2-13B la precizie FP8 pe un cluster cu 16 acceleratoare. În plus, Gaudi 3 a îmbunătățit semnificativ și performanța inferenței H200/H100, crescând de 1,3 ori până la 1,5 ori, iar eficiența energetică a crescut de 2,3 ori.