Chuangda sasniedz 13 miljardu parametru modeļa pilnīgu darbību

0
Attīstoties mākslīgā intelekta tehnoloģijai, tradicionālie personālie datori ir jāatjaunina. Thunderclap izmanto modeļu saspiešanu un citas tehnoloģijas, lai panāktu stabilu LLaMA-2 13 miljardu parametru modeļa darbību Qualcomm 8 sērijas 550 mikroshēmu platformā, uzlabotu gala ierīču izsecināšanas ātrumu un liktu pamatu AI PC ērai. .