Chuangda raggiunge il funzionamento end-to-end di un modello da 13 miliardi di parametri

2024-12-20 21:36
 0
Con lo sviluppo della tecnologia AI, i PC tradizionali devono essere aggiornati. Thunderda utilizza la compressione del modello e altre tecnologie per ottenere un funzionamento stabile del modello LLaMA-2 da 13 miliardi di parametri sulla piattaforma chip Qualcomm serie 8 550, migliorare la velocità di inferenza dei dispositivi end-side e gettare le basi per l'era dei PC AI .