Intel Gaudi 3 kiirendi jõudlus ületab NVIDIA H100

2024-12-25 23:42
 73
Intel väidab, et Gaudi 3 kiirendi on saavutanud konkurentsis NVIDIA H100-ga eelise. Gaudi 3 toimib 1,7 korda kiiremini kui H100, kui treenida Llama2-13B FP8 täpsusega 16 kiirendiga klastris. Lisaks on Gaudi 3 oluliselt parandanud ka H200/H100 järelduste jõudlust, suurendades 1,3 korda 1,5 korda ja energiatõhusust 2,3 korda.