Výkon akcelerátoru Intel Gaudi 3 překonává NVIDIA H100

2024-12-25 23:42
 73
Intel tvrdí, že akcelerátor Gaudi 3 získal výhodu v konkurenci s NVIDIA H100. Gaudi 3 funguje 1,7x rychleji než H100 při trénování Llama2-13B s přesností FP8 napříč 16-akceleračním clusterem. Kromě toho Gaudi 3 také výrazně zlepšil inferenční výkon H200/H100, zvýšil se 1,3krát na 1,5krát a energetická účinnost se zvýšila na 2,3krát.