Chuangda doseže delovanje od konca do konca modela s 13 milijardami parametrov

2024-12-20 21:36
 0
Z razvojem tehnologije umetne inteligence je treba tradicionalne osebne računalnike nadgraditi. Thunderda uporablja kompresijo modela in druge tehnologije za doseganje stabilnega delovanja modela LLaMA-2 s 13 milijardami parametrov na platformi čipov Qualcomm 8 serije 550, izboljšanje hitrosti sklepanja končnih naprav in postavitev temeljev za dobo AI ​​PC .