Az Intel Gaudi 3 gyorsító teljesítménye felülmúlja az NVIDIA H100-at

2024-12-25 23:42
 73
Az Intel azt állítja, hogy a Gaudi 3 gyorsító előnyre tett szert az NVIDIA H100-zal szemben. A Gaudi 3 1,7-szer gyorsabban teljesít, mint a H100, amikor a Llama2-13B-t FP8 pontossággal edzi egy 16 gyorsítós klaszteren. Ezenkívül a Gaudi 3 jelentősen javította a H200/H100 következtetési teljesítményt is, 1,3-szorosára 1,5-szeresére, az energiahatékonyság pedig 2,3-szorosára nőtt.