清华大学和哈工大联合研究提出大模型1bit极限压缩框架OneBit

2024-03-10 20:20
 0
清华大学和哈工大的一项联合研究提出了一种名为OneBit的大模型1bit极限压缩框架。该框架首次实现了大模型权重压缩超越90%,同时保留了大部分(83%)能力。这一研究成果对于大模型在PC端甚至智能手机上的部署具有重要意义。