Groq böyük model çıxarış çipi əla performansa malikdir və NVIDIA GPU-nun enerji istehlakının yalnız onda birini sərf edir.

2024-12-26 18:39
 48
Qroqun böyük model nəticə çıxarma çipi dünyada ilk dəfə olaraq TSA arxitekturasına əsaslanan Tensor Streaming Processor (TSP) çipi olan LPU (Language Processing Unit) həllini təklif edir. Baxmayaraq ki, Groq-un LPU bahalı qabaqcıl proses texnologiyasından istifadə etmir, lakin 14nm prosesi seçir, onun performansı hələ də əladır, 1000 TOPS-a qədər hesablama gücünü təmin edir və bəzi maşın öyrənmə modellərində performansı adi GPU-lardan daha yaxşıdır və TPU 10-100 dəfə təkmilləşdirilmişdir. Bundan əlavə, Groq LPU çiplərinin enerji istehlakı Nvidia GPU-larının yalnız onda bir hissəsidir.