Das US-amerikanische Startup für künstliche Intelligenz Groq bringt neuen KI-Chip auf den Markt

Groq, ein amerikanisches Startup für künstliche Intelligenz, hat kürzlich einen neuen Cloud-Inferenzchip für große Modelle auf den Markt gebracht. Dieser Chip nutzt die innovative Tensor Streaming Architecture (TSA)-Architektur und Hochgeschwindigkeits-SRAM, um die Geschwindigkeit der Inferenz großer Modelle sogar um mehr als das Zehnfache zu erhöhen übertrifft die NVIDIA-GPU.