Η απόδοση του επιταχυντή Intel Gaudi 3 ξεπερνά το NVIDIA H100

73
Η Intel ισχυρίζεται ότι ο επιταχυντής Gaudi 3 έχει αποκτήσει πλεονέκτημα σε σύγκριση με το NVIDIA H100. Το Gaudi 3 εκτελεί 1,7 φορές ταχύτερα από το H100 όταν εκπαιδεύει το Llama2-13B με ακρίβεια FP8 σε ένα σύμπλεγμα 16 επιταχυντών. Επιπλέον, το Gaudi 3 έχει επίσης βελτιώσει σημαντικά την απόδοση συμπερασμάτων H200/H100, αυξάνοντας κατά 1,3 φορές σε 1,5 φορές και η ενεργειακή απόδοση αυξήθηκε σε 2,3 φορές.