Velký model inferenční čip Groq má vynikající výkon a spotřebuje pouze jednu desetinu spotřeby energie GPU NVIDIA

Velký modelový inferenční čip Groq poprvé na světě navrhuje řešení LPU (Language Processing Unit), což je čip Tensor Streaming Processor (TSP) založený na architektuře TSA. Přestože LPU společnosti Groq nepoužívá drahou špičkovou procesní technologii, ale volí 14nm proces, jeho výkon je stále vynikající, poskytuje až 1000 TOPS výpočetního výkonu a jeho výkon na některých modelech strojového učení je lepší než u běžných GPU a TPU bylo vylepšeno 10 až 100krát. Spotřeba energie čipů Groq LPU je navíc pouze desetinová oproti GPU Nvidia.