Intel Gaudi 3-acceleratorprestaties overtreffen NVIDIA H100

Intel beweert dat de Gaudi 3-versneller een voordeel heeft behaald in de concurrentie met NVIDIA H100. Gaudi 3 presteert 1,7x sneller dan H100 bij het trainen van Llama2-13B met FP8-precisie over een cluster met 16 versnellingen. Bovendien heeft Gaudi 3 ook de H200/H100-inferentieprestaties aanzienlijk verbeterd, met een toename van 1,3 tot 1,5 keer, en is de energie-efficiëntie toegenomen tot 2,3 keer.