Desempenho do acelerador Intel Gaudi 3 supera NVIDIA H100

A Intel afirma que o acelerador Gaudi 3 ganhou uma vantagem na competição com o NVIDIA H100. O Gaudi 3 tem um desempenho 1,7x mais rápido que o H100 ao treinar o Llama2-13B com precisão do FP8 em um cluster de 16 aceleradores. Além disso, Gaudi 3 também melhorou significativamente o desempenho da inferência H200/H100, aumentando de 1,3 vezes para 1,5 vezes, e a eficiência energética aumentou para 2,3 vezes.