Veľký modelový inferenčný čip Groq má vynikajúci výkon a spotrebuje iba jednu desatinu spotreby energie GPU NVIDIA

48
Veľký modelový inferenčný čip Groq po prvý raz na svete navrhuje riešenie LPU (Language Processing Unit), čo je čip Tensor Streaming Processor (TSP) založený na architektúre TSA. Hoci LPU od Groq nepoužíva drahú špičkovú procesnú technológiu, ale volí 14nm proces, jeho výkon je stále vynikajúci, poskytuje až 1000 TOP výpočtového výkonu a jeho výkon na niektorých modeloch strojového učenia je lepší ako pri bežných GPU a TPU bol vylepšený 10 až 100-krát. Navyše spotreba energie čipov Groq LPU je len desatina oproti GPU Nvidia.