Groq том загварын дүгнэлтийн чип нь маш сайн гүйцэтгэлтэй бөгөөд NVIDIA GPU-ийн эрчим хүчний хэрэглээний аравны нэгийг л зарцуулдаг.

2024-12-26 18:39
 48
Groq-ийн том загварын дүгнэлт гаргах чип нь дэлхийд анх удаа LPU (Language Processing Unit) шийдлийг санал болгож байгаа бөгөөд энэ нь TSA архитектур дээр суурилсан Tensor Streaming Processor (TSP) чип юм. Groq-ийн LPU нь өндөр үнэтэй технологийн дэвшилтэт технологи ашигладаггүй боловч 14 нм процессыг сонгосон ч гүйцэтгэл нь маш сайн бөгөөд 1000 TOPS хүртэл тооцоолох хүчин чадлыг хангадаг бөгөөд зарим машин сургалтын загварууд дээрх гүйцэтгэл нь ердийн GPU болон бусад загваруудаас илүү сайн байдаг. TPU нь 10-100 дахин сайжирсан. Нэмж дурдахад, Groq LPU чипүүдийн эрчим хүчний хэрэглээ Nvidia GPU-ийн аравны нэг л байна.