La startup américaine d'intelligence artificielle Groq lance une nouvelle puce d'IA

57
Groq, une startup américaine d'intelligence artificielle, a récemment lancé une nouvelle puce d'inférence de grands modèles dans le cloud. Cette puce utilise l'architecture innovante Tensor Streaming Architecture (TSA) et la SRAM haute vitesse pour augmenter la vitesse d'inférence de grands modèles de plus de 10 fois. dépassant le GPU NVIDIA.