La startup statunitense di intelligenza artificiale Groq lancia un nuovo chip AI

2024-12-26 17:50
 57
Groq, una startup americana di intelligenza artificiale, ha recentemente lanciato un nuovo chip di inferenza di modelli di grandi dimensioni nel cloud. Questo chip utilizza l'innovativa architettura Tensor Streaming Architecture (TSA) e SRAM ad alta velocità per aumentare la velocità di inferenza di modelli di grandi dimensioni di oltre 10 volte. superiore alla GPU NVIDIA.