Çipi i konkluzionit të modelit të madh Groq ka performancë të shkëlqyeshme dhe konsumon vetëm një të dhjetën e konsumit të energjisë të NVIDIA GPU

2024-12-26 18:39
 48
Çipi i madh i konkluzionit të modelit të Groq-it propozon zgjidhjen LPU (Njësia e përpunimit të gjuhës) për herë të parë në botë, e cila është një çip Tensor Streaming Processor (TSP) i bazuar në arkitekturën TSA. Megjithëse LPU-ja e Groq nuk përdor teknologji të shtrenjtë të procesit të fundit, por zgjedh procesin 14 nm, performanca e tij është ende e shkëlqyer, duke siguruar deri në 1000 TOPS fuqi kompjuterike dhe performanca e tij në disa modele të mësimit të makinerive është më e mirë se ajo e GPU-ve konvencionale dhe TPU është përmirësuar me 10 deri në 100 herë. Për më tepër, konsumi i energjisë i çipave Groq LPU është vetëm një e dhjeta e asaj të GPU-ve Nvidia.