Groq stor model inferenschip har fremragende ydeevne og bruger kun en tiendedel af strømforbruget for NVIDIA GPU

Groqs store modelinferenschip foreslår LPU-løsningen (Language Processing Unit) for første gang i verden, som er en Tensor Streaming Processor (TSP)-chip baseret på TSA-arkitekturen. Selvom Groqs LPU ikke bruger dyr avanceret procesteknologi, men vælger 14nm-processen, er dens ydeevne stadig fremragende og giver op til 1000 TOPS computerkraft, og dens ydeevne på nogle maskinlæringsmodeller er bedre end konventionelle GPU'er og TPU er blevet forbedret med 10 til 100 gange. Derudover er energiforbruget for Groq LPU-chips kun en tiendedel af Nvidia GPU'er.