中科創達實現130億參數模型端側運行

2024-12-20 21:36
 0
隨著AI技術的發展,傳統PC需升級。中科創達利用模型壓縮等技術,在高通8系列550晶片平台上實現LLaMA-2 130億參數模型穩定運行,提高端側設備推理速度,為AI PC時代奠定基礎。