Groq katta modelli xulosa chipi mukammal ishlashga ega va NVIDIA GPU quvvat sarfining atigi o'ndan bir qismini sarflaydi.

2024-12-26 18:39
 48
Groqning yirik modelli xulosa chiqarish chipi dunyoda birinchi marta TSA arxitekturasiga asoslangan Tensor Streaming Processor (TSP) chipi boʻlgan LPU (Language Processing Unit) yechimini taklif qiladi. Groqning LPU qimmat ilg'or texnologik texnologiyadan foydalanmasa-da, lekin 14 nanometrli jarayonni tanlagan bo'lsa-da, uning ishlashi hali ham a'lo darajada bo'lib, 1000 TOPSgacha hisoblash quvvatini ta'minlaydi va uning ba'zi bir mashina o'rganish modellarida ishlashi an'anaviy GPU-larga qaraganda yaxshiroq va TPU 10 dan 100 martagacha yaxshilandi. Bundan tashqari, Groq LPU chiplarining energiya iste'moli Nvidia GPUlarining faqat o'ndan bir qismini tashkil qiladi.