Układ wnioskowania dużego modelu Groq ma doskonałą wydajność i zużywa tylko jedną dziesiątą zużycia energii przez procesor graficzny NVIDIA

W dużym chipie wnioskowania modelu Groq po raz pierwszy na świecie zastosowano rozwiązanie LPU (Language Processing Unit), czyli procesor Tensor Streaming Processor (TSP) oparty na architekturze TSA. Chociaż LPU Groqa nie wykorzystuje drogiej, najnowocześniejszej technologii procesowej, ale wybiera proces 14 nm, jego wydajność jest nadal doskonała, zapewniając do 1000 TOPS mocy obliczeniowej, a jego wydajność w niektórych modelach uczenia maszynowego jest lepsza niż w przypadku konwencjonalnych procesorów graficznych i TPU został ulepszony od 10 do 100 razy. Ponadto zużycie energii przez chipy Groq LPU wynosi tylko jedną dziesiątą zużycia energii przez procesory graficzne Nvidia.