中科創達實現130億參數模型端側運行
賓士EQE SUV
高通
推理
系列
晶片
壓縮
中科創達
模型
高通
升級
數模
基礎
速度
端側
發展
的
2024-12-20 21:36
0
隨著AI技術的發展,傳統PC需升級。中科創達利用模型壓縮等技術,在高通8系列550晶片平台上實現LLaMA-2 130億參數模型穩定運行,提高端側設備推理速度,為AI PC時代奠定基礎。
Prev:Зхендиан Тецхнологи је добила сертификат о функционалној безбедности ИСО 26262 АСИЛ Д нивоа
Next:ThunderSoft achieves end-to-end operation of 13 billion parameter models
News
Exclusive
Data
Account