清華大學與哈工大聯合研究提出大模型1bit極限壓縮架構OneBit

2024-12-26 05:05
 0
清華大學和哈工大的一項聯合研究提出了一個名為OneBit的大模型1bit極限壓縮框架。該框架首次實現了大模型權重壓縮超越90%,同時保留了大部分(83%)能力。這項研究成果對於大模型在PC端甚至智慧型手機上的部署具有重要意義。