Intel Gaudi 3 가속기 성능이 NVIDIA H100을 능가함

2024-12-25 23:42
 73
Intel은 Gaudi 3 가속기가 NVIDIA H100과의 경쟁에서 우위를 점했다고 주장합니다. Gaudi 3는 16개 가속기 클러스터에서 Llama2-13B를 FP8 정밀도로 훈련할 때 H100보다 1.7배 더 빠르게 수행됩니다. 또한, 가우디 3는 H200/H100 추론 성능도 1.3배에서 1.5배로 대폭 향상됐고, 에너지 효율도 2.3배로 높아졌다.