Čip za sklepanje velikih modelov Groq ima odlično zmogljivost in porabi le eno desetino porabe energije NVIDIA GPE

48
Groqov čip za sklepanje velikih modelov prvič na svetu predlaga rešitev LPU (Language Processing Unit), ki je čip Tensor Streaming Processor (TSP), ki temelji na arhitekturi TSA. Čeprav Groqov LPU ne uporablja drage najsodobnejše procesne tehnologije, ampak izbere 14nm proces, je njegova zmogljivost še vedno odlična, saj zagotavlja do 1000 TOPS računalniške moči, njegova zmogljivost na nekaterih modelih strojnega učenja pa je boljša kot pri običajnih GPE in TPU je bil izboljšan za 10- do 100-krat. Poleg tega je poraba energije čipov Groq LPU le ena desetina porabe energije grafičnih procesorjev Nvidia.