Groqin suurella mallin päättelypiirillä on erinomainen suorituskyky ja se kuluttaa vain kymmenesosan NVIDIA GPU:n virrankulutuksesta

48
Groqin suuri mallipäättelysiru ehdottaa ensimmäistä kertaa maailmassa LPU-ratkaisua (Language Processing Unit), joka on TSA-arkkitehtuuriin perustuva Tensor Streaming Processor (TSP) -siru. Vaikka Groqin LPU ei käytä kallista huippuluokan prosessitekniikkaa, vaan valitsee 14 nm:n prosessin, sen suorituskyky on silti erinomainen ja tarjoaa jopa 1000 TOPS laskentatehoa, ja sen suorituskyky joissakin koneoppimismalleissa on parempi kuin perinteisten grafiikkasuorittimien ja TPU:ta on parannettu 10-100 kertaa. Lisäksi Groq LPU -sirujen energiankulutus on vain kymmenesosa Nvidian GPU:ista.