Chuangda realizează funcționarea completă a modelului cu 13 miliarde de parametri

0
Odată cu dezvoltarea tehnologiei AI, computerele tradiționale trebuie să fie modernizate. Thunderda folosește compresia modelului și alte tehnologii pentru a obține o funcționare stabilă a modelului LLaMA-2 cu 13 miliarde de parametri pe platforma de cip Qualcomm 8 seria 550, pentru a îmbunătăți viteza de inferență a dispozitivelor terminale și pentru a pune bazele erei PC-ului AI .