Intel Gaudi 3 tezlatgichining ishlashi NVIDIA H100 dan oshib ketadi

Intelning ta'kidlashicha, Gaudi 3 tezlatgichi NVIDIA H100 bilan raqobatda ustunlikka erishdi. Gaudi 3 16 tezlatkichli klasterda FP8 aniqligida Llama2-13B ni o'rgatganda H100 dan 1,7 baravar tezroq ishlaydi. Bundan tashqari, Gaudi 3 ham H200 / H100 inferentsiya ko'rsatkichlarini sezilarli darajada yaxshiladi, 1,3 martadan 1,5 barobarga, energiya samaradorligi esa 2,3 barobarga oshdi.