Intel Gaudi 3 acceleratorprestanda överträffar NVIDIA H100

2024-12-25 23:42
 73
Intel hävdar att Gaudi 3-acceleratorn har fått en fördel i konkurrensen med NVIDIA H100. Gaudi 3 presterar 1,7 gånger snabbare än H100 när han tränar Llama2-13B med FP8-precision över ett kluster med 16 acceleratorer. Dessutom har Gaudi 3 också avsevärt förbättrat H200/H100 slutledningsprestanda, ökat med 1,3 gånger till 1,5 gånger, och energieffektiviteten ökat till 2,3 gånger.