Intel Gaudi 3 アクセラレータのパフォーマンスは NVIDIA H100 を上回る

Intel は、Gaudi 3 アクセラレータが NVIDIA H100 との競争において有利になったと主張しています。 Gaudi 3 は、16 アクセラレータ クラスター全体で FP8 精度で Llama2-13B をトレーニングすると、H100 よりも 1.7 倍高速に実行されます。さらに、Gaudi 3 では H200/H100 の推論性能も大幅に向上し、1.3 倍から 1.5 倍に向上し、エネルギー効率も 2.3 倍に向上しました。