Groq 대형 모델 추론 칩은 성능이 뛰어나며 NVIDIA GPU 전력 소비량의 10분의 1에 불과합니다.

그로크의 대형 모델 추론 칩은 TSA 아키텍처 기반의 TSP(Tensor Streaming Processor) 칩인 LPU(Language Process Unit) 솔루션을 세계 최초로 제안한다. Groq의 LPU는 고가의 최첨단 공정 기술을 사용하지 않고 14nm 공정을 선택했지만 최대 1000TOPS의 컴퓨팅 파워를 제공할 정도로 성능은 여전히 ​​우수하며 일부 기계 학습 모델에서의 성능은 기존 GPU 및 TPU는 10~100배 향상되었습니다. 또한 Groq LPU 칩의 에너지 소비량은 Nvidia GPU의 10분의 1에 불과합니다.