Intel Gaudi 3 hızlandırıcı performansı NVIDIA H100'ü geride bırakıyor

73
Intel, Gaudi 3 hızlandırıcının NVIDIA H100 ile rekabette avantaj sağladığını iddia ediyor. Gaudi 3, 16 hızlandırıcılı bir kümede Llama2-13B'yi FP8 hassasiyetinde eğitirken H100'den 1,7 kat daha hızlı performans gösteriyor. Ayrıca Gaudi 3, H200/H100 çıkarım performansını da önemli ölçüde iyileştirerek 1,3 kat artırarak 1,5 kata, enerji verimliliğini ise 2,3 kata çıkardı.