ASV mākslīgā intelekta startup Groq laiž klajā jaunu AI mikroshēmu

2024-12-26 17:50
 57
Amerikāņu mākslīgā intelekta starta uzņēmums Groq nesen palaida klajā jaunu mākoņa lielu modeļu secinājumu mikroshēmu. Šī mikroshēma izmanto novatorisko Tensor Streaming Architecture (TSA) arhitektūru un ātrdarbīgu SRAM, lai palielinātu liela modeļa secinājuma ātrumu pat vairāk nekā 10 reizes. pārsniedz NVIDIA GPU.