Amazon AWS keng ko'lamli model xulosasini tezlashtirish uchun Inferentia 2 chipini chiqaradi

2024-12-26 07:13
 31
Amazon AWS Inferentia 2 chipini chiqaradi, bu esa hisoblash unumdorligini uch baravar oshiradi va jami tezlatgich xotirasini chorakga oshiradi. Inferentia 2 taqsimlangan fikrlashni qo'llab-quvvatlaydi va 175 milliardgacha parametrlarni qo'llab-quvvatlashi mumkin, bu uni keng ko'lamli modellar uchun kuchli raqobatchi qiladi.