Die Leistung des Intel Gaudi 3-Beschleunigers übertrifft die von NVIDIA H100

Intel behauptet, dass der Gaudi 3-Beschleuniger im Wettbewerb mit NVIDIA H100 einen Vorteil erlangt hat. Gaudi 3 ist 1,7-mal schneller als H100, wenn Llama2-13B mit FP8-Präzision auf einem 16-Beschleuniger-Cluster trainiert wird. Darüber hinaus hat Gaudi 3 auch die H200/H100-Inferenzleistung erheblich verbessert, nämlich um das 1,3- bis 1,5-fache, und die Energieeffizienz wurde auf das 2,3-fache erhöht.