Hiệu năng tăng tốc Intel Gaudi 3 vượt qua NVIDIA H100

Intel tuyên bố rằng bộ tăng tốc Gaudi 3 đã đạt được lợi thế khi cạnh tranh với NVIDIA H100. Gaudi 3 hoạt động nhanh hơn 1,7 lần so với H100 khi huấn luyện Llama2-13B ở độ chính xác FP8 trên cụm 16 máy gia tốc. Ngoài ra, Gaudi 3 còn cải thiện đáng kể hiệu năng suy luận H200/H100, tăng 1,3 lần đến 1,5 lần và hiệu quả sử dụng năng lượng tăng lên 2,3 lần.