Startup de inteligência artificial dos EUA Groq lança novo chip de IA

2024-12-26 17:50
 57
Groq, uma startup americana de inteligência artificial, lançou recentemente um novo chip de inferência de modelos grandes em nuvem. Este chip usa a arquitetura inovadora Tensor Streaming Architecture (TSA) e SRAM de alta velocidade para aumentar a velocidade de inferência de modelos grandes em mais de 10 vezes. excedendo a GPU NVIDIA.