Groq lielajai modeļa secināšanas mikroshēmai ir lieliska veiktspēja, un tā patērē tikai vienu desmito daļu no NVIDIA GPU enerģijas patēriņa

48
Groq lielā modeļa secinājumu mikroshēma pirmo reizi pasaulē piedāvā LPU (valodu apstrādes vienības) risinājumu, kas ir Tensor Streaming Processor (TSP) mikroshēma, kuras pamatā ir TSA arhitektūra. Lai gan Groq LPU neizmanto dārgu progresīvu procesu tehnoloģiju, bet izvēlas 14 nm procesu, tā veiktspēja joprojām ir lieliska, nodrošinot līdz pat 1000 TOPS skaitļošanas jaudu, un tā veiktspēja dažos mašīnmācīšanās modeļos ir labāka nekā parastajiem GPU un TPU ir uzlabots 10 līdz 100 reizes. Turklāt Groq LPU mikroshēmu enerģijas patēriņš ir tikai viena desmitā daļa no Nvidia GPU.