Groq böyük model çıxarış çipi əla performansa malikdir və NVIDIA GPU-nun enerji istehlakının yalnız onda birini sərf edir.

48
Qroqun böyük model nəticə çıxarma çipi dünyada ilk dəfə olaraq TSA arxitekturasına əsaslanan Tensor Streaming Processor (TSP) çipi olan LPU (Language Processing Unit) həllini təklif edir. Baxmayaraq ki, Groq-un LPU bahalı qabaqcıl proses texnologiyasından istifadə etmir, lakin 14nm prosesi seçir, onun performansı hələ də əladır, 1000 TOPS-a qədər hesablama gücünü təmin edir və bəzi maşın öyrənmə modellərində performansı adi GPU-lardan daha yaxşıdır və TPU 10-100 dəfə təkmilləşdirilmişdir. Bundan əlavə, Groq LPU çiplərinin enerji istehlakı Nvidia GPU-larının yalnız onda bir hissəsidir.