中科创达实现130亿参数模型端侧运行

2023-11-02 00:00
 0

随着AI技术的发展,传统PC需升级。中科创达利用模型压缩等技术,在高通8系列550芯片平台上实现LLaMA-2 130亿参数模型稳定运行,提高端侧设备推理速度,为AI PC时代奠定基础。