ประสิทธิภาพการเร่งความเร็ว Intel Gaudi 3 เหนือกว่า NVIDIA H100

2024-12-25 23:42
 73
Intel อ้างว่าตัวเร่งความเร็ว Gaudi 3 ได้เปรียบในการแข่งขันกับ NVIDIA H100 Gaudi 3 ทำงานได้เร็วกว่า H100 ถึง 1.7 เท่า เมื่อฝึก Llama2-13B ที่ความแม่นยำ FP8 ทั่วทั้งคลัสเตอร์ตัวเร่งความเร็ว 16 ตัว นอกจากนี้ Gaudi 3 ยังปรับปรุงประสิทธิภาพการอนุมาน H200/H100 อย่างมีนัยสำคัญ โดยเพิ่มขึ้น 1.3 เท่าเป็น 1.5 เท่า และประสิทธิภาพการใช้พลังงานเพิ่มขึ้นเป็น 2.3 เท่า