Groq grousse Modell Inferenz Chip huet exzellent Leeschtung a verbraucht nëmmen een Zéngtel vum Stroumverbrauch vun der NVIDIA GPU

Dem Groq säi grousse Modell Inferenz Chip proposéiert d'LPU (Language Processing Unit) Léisung fir d'éischte Kéier op der Welt, dat ass en Tensor Streaming Prozessor (TSP) Chip baséiert op der TSA Architektur. Och wann de Groq's LPU keng deier modernste Prozesstechnologie benotzt, awer den 14nm Prozess wielt, ass seng Leeschtung ëmmer nach exzellent, bitt bis zu 1000 TOPS Rechenkraaft, a seng Leeschtung op e puer Maschinnléiermodeller ass besser wéi déi vu konventionelle GPUs an TPU gouf vun 10 bis 100 Mol verbessert. Zousätzlech ass den Energieverbrauch vu Groq LPU Chips nëmmen een Zéngtel dee vun Nvidia GPUs.