Chuangda uppnår end-to-end-drift av 13 miljarder parametermodell

2024-12-20 21:36
 0
Med utvecklingen av AI-teknik behöver traditionella datorer uppgraderas. Thunderda använder modellkomprimering och andra teknologier för att uppnå stabil drift av LLaMA-2 13 miljarder parametermodell på Qualcomm 8 series 550 chipplattformen, förbättra slutledningshastigheten för enheter på ändsidan och lägga grunden för AI PC-eran .