Čip za zaključivanje velikog modela Groq ima izvrsne performanse i troši samo jednu desetinu potrošnje energije NVIDIA GPU-a

48
Groqov čip za zaključivanje velikog modela po prvi put u svijetu predlaže LPU (Language Processing Unit) rješenje, koje je Tensor Streaming Processor (TSP) čip temeljen na TSA arhitekturi. Iako Groqov LPU ne koristi skupu vrhunsku procesnu tehnologiju, već odabire 14nm proces, njegova izvedba je i dalje izvrsna, pruža do 1000 TOPS računalne snage, a njegova izvedba na nekim modelima strojnog učenja bolja je od one konvencionalnih GPU-ova i TPU je poboljšan 10 do 100 puta. Osim toga, potrošnja energije Groq LPU čipova samo je jedna desetina potrošnje Nvidia GPU-a.