Il chip di inferenza del modello di grandi dimensioni Groq offre prestazioni eccellenti e consuma solo un decimo del consumo energetico della GPU NVIDIA

Il chip di inferenza modello grande di Groq propone per la prima volta al mondo la soluzione LPU (Language Processing Unit), ovvero un chip Tensor Streaming Processor (TSP) basato sull'architettura TSA. Sebbene la LPU di Groq non utilizzi una costosa tecnologia di processo all'avanguardia, ma scelga il processo a 14 nm, le sue prestazioni sono comunque eccellenti, fornendo fino a 1000 TOPS di potenza di calcolo, e le sue prestazioni su alcuni modelli di apprendimento automatico sono migliori di quelle delle GPU convenzionali e Il TPU è stato migliorato da 10 a 100 volte. Inoltre, il consumo energetico dei chip Groq LPU è solo un decimo di quello delle GPU Nvidia.