Чип вывода больших моделей Groq обладает превосходной производительностью и потребляет лишь одну десятую потребляемой мощности графического процессора NVIDIA.

48
Чип вывода больших моделей Groq впервые в мире предлагает решение LPU (Language Processing Unit), которое представляет собой чип тензорного потокового процессора (TSP) на основе архитектуры TSA. Хотя в LPU Groq не используется дорогостоящий передовой технологический процесс, а выбран 14-нм техпроцесс, его производительность по-прежнему превосходна, обеспечивая до 1000 TOPS вычислительной мощности, а его производительность на некоторых моделях машинного обучения лучше, чем у обычных графических процессоров и ТПУ был улучшен от 10 до 100 раз. Кроме того, энергопотребление чипов Groq LPU составляет лишь одну десятую от энергопотребления графических процессоров Nvidia.