A Groq nagy modellkövetkeztető chip kiváló teljesítményt nyújt, és az NVIDIA GPU energiafogyasztásának csak egytizedét fogyasztja

48
A Groq nagy modellkövetkeztető chipje a világon először javasolja az LPU (Language Processing Unit) megoldást, amely egy TSA architektúrán alapuló Tensor Streaming Processor (TSP) chip. Bár a Groq LPU-ja nem használ drága, élvonalbeli folyamattechnológiát, hanem a 14 nm-es folyamatot választja, teljesítménye továbbra is kiváló, akár 1000 TOPS számítási teljesítményt biztosít, és egyes gépi tanulási modelleken a teljesítménye jobb, mint a hagyományos GPU-ké, ill. A TPU-t 10-100-szor javították. Ráadásul a Groq LPU chipek energiafogyasztása csak egytizede az Nvidia GPU-kénak.