El rendimiento del acelerador Intel Gaudi 3 supera al NVIDIA H100

Intel afirma que el acelerador Gaudi 3 ha ganado ventaja frente a NVIDIA H100. Gaudi 3 funciona 1,7 veces más rápido que H100 cuando entrena Llama2-13B con precisión FP8 en un grupo de 16 aceleradores. Además, Gaudi 3 también ha mejorado significativamente el rendimiento de inferencia H200/H100, aumentando de 1,3 veces a 1,5 veces, y la eficiencia energética aumentó a 2,3 veces.