Chuangda opnår end-to-end drift af 13 milliarder parameter model

2024-12-20 21:36
 0
Med udviklingen af ​​AI-teknologi skal traditionelle pc'er opgraderes. Thunderda bruger modelkomprimering og andre teknologier til at opnå stabil drift af LLaMA-2 13 milliarder parametermodellen på Qualcomm 8-seriens 550 chipplatform, forbedre inferenshastigheden for ende-side-enheder og lægge grundlaget for AI-PC-æraen .