Výkon akcelerátora Intel Gaudi 3 prekonáva NVIDIA H100

2024-12-25 23:42
 73
Intel tvrdí, že akcelerátor Gaudi 3 získal výhodu v konkurencii s NVIDIA H100. Gaudi 3 funguje 1,7x rýchlejšie ako H100 pri trénovaní Llama2-13B s presnosťou FP8 cez 16-akcelerátorový klaster. Okrem toho Gaudi 3 tiež výrazne zlepšil výkon inferencie H200/H100, pričom sa zvýšil 1,3-krát až 1,5-krát a energetická účinnosť sa zvýšila na 2,3-krát.