Производительность ускорителя Intel Gaudi 3 превосходит NVIDIA H100

Intel утверждает, что ускоритель Gaudi 3 получил преимущество в конкуренции с NVIDIA H100. Gaudi 3 работает в 1,7 раза быстрее, чем H100, при обучении Llama2-13B с точностью FP8 в кластере из 16 ускорителей. Кроме того, Gaudi 3 также значительно улучшил производительность вывода H200/H100, увеличив ее в 1,3–1,5 раза, а энергоэффективность увеличилась до 2,3 раза.