La Universidad de Tsinghua y el Instituto de Tecnología de Harbin investigaron y propusieron conjuntamente un modelo grande de marco de compresión extrema de 1 bit, OneBit.

2024-12-26 05:05
 0
Un estudio conjunto de la Universidad de Tsinghua y el Instituto de Tecnología de Harbin propuso un marco de compresión extrema de 1 bit de modelo grande llamado OneBit. Por primera vez, el marco logra una compresión del peso de modelos grandes superior al 90%, conservando la mayor parte (83%) de sus capacidades. El resultado de esta investigación es de gran importancia para la implementación de modelos grandes en PC e incluso teléfonos inteligentes.