Groq বড় মডেলের ইনফারেন্স চিপটি চমৎকার কর্মক্ষমতা রয়েছে এবং NVIDIA GPU-এর পাওয়ার খরচের মাত্র দশমাংশ খরচ করে

Groq-এর বৃহৎ মডেল ইনফারেন্স চিপ বিশ্বে প্রথমবারের মতো LPU (ভাষা প্রক্রিয়াকরণ ইউনিট) সমাধানের প্রস্তাব করেছে, যা TSA আর্কিটেকচারের উপর ভিত্তি করে একটি টেনসর স্ট্রিমিং প্রসেসর (TSP) চিপ। যদিও Groq-এর LPU ব্যয়বহুল কাটিং-এজ প্রসেস প্রযুক্তি ব্যবহার করে না, কিন্তু 14nm প্রক্রিয়া বেছে নেয়, তবুও এর কার্যকারিতা এখনও চমৎকার, যা 1000 TOPS পর্যন্ত কম্পিউটিং শক্তি প্রদান করে এবং কিছু মেশিন লার্নিং মডেলে এর পারফরম্যান্স প্রচলিত GPU-এর তুলনায় ভালো এবং TPU 10 থেকে 100 গুণ উন্নত করা হয়েছে। উপরন্তু, Groq LPU চিপগুলির শক্তি খরচ Nvidia GPU-এর মাত্র এক-দশমাংশ।