La startup estadounidense de inteligencia artificial Groq lanza un nuevo chip de inteligencia artificial

2024-12-26 17:50
 57
Groq, una startup estadounidense de inteligencia artificial, lanzó recientemente un nuevo chip de inferencia de modelos grandes en la nube. Este chip utiliza la innovadora arquitectura Tensor Streaming Architecture (TSA) y SRAM de alta velocidad para aumentar la velocidad de inferencia de modelos grandes en más de 10 veces, incluso. superando la GPU NVIDIA.