Startup-ul american de inteligență artificială Groq lansează un nou cip AI

57
Groq, o companie americană de inteligență artificială, a lansat recent un nou cip de inferență pentru modele mari în cloud. Acest cip folosește arhitectura inovatoare Tensor Streaming Architecture (TSA) și SRAM de mare viteză pentru a crește viteza de inferență a modelelor mari de peste 10 ori, chiar și. depășind GPU-ul NVIDIA.