Performa akselerator Intel Gaudi 3 melampaui NVIDIA H100

2024-12-25 23:42
 73
Intel mengklaim akselerator Gaudi 3 telah memperoleh keunggulan dalam persaingan dengan NVIDIA H100. Gaudi 3 berperforma 1,7x lebih cepat dibandingkan H100 saat melatih Llama2-13B dengan presisi FP8 di cluster 16 akselerator. Selain itu, Gaudi 3 juga telah meningkatkan kinerja inferensi H200/H100 secara signifikan, meningkat 1,3 kali lipat menjadi 1,5 kali lipat, dan efisiensi energi meningkat menjadi 2,3 kali lipat.