Le prestazioni dell'acceleratore Intel Gaudi 3 superano NVIDIA H100

Intel afferma che l'acceleratore Gaudi 3 ha ottenuto un vantaggio nella concorrenza con NVIDIA H100. Gaudi 3 funziona 1,7 volte più velocemente di H100 durante l'addestramento di Llama2-13B con precisione FP8 su un cluster da 16 acceleratori. Inoltre, Gaudi 3 ha anche migliorato significativamente le prestazioni di inferenza H200/H100, aumentando da 1,3 a 1,5 volte, e l'efficienza energetica è aumentata a 2,3 volte.