Chuangda logra la operación de extremo a extremo del modelo de 13 mil millones de parámetros

Con el desarrollo de la tecnología de inteligencia artificial, es necesario actualizar las PC tradicionales. Thunderda utiliza la compresión de modelos y otras tecnologías para lograr un funcionamiento estable del modelo de 13 mil millones de parámetros LLaMA-2 en la plataforma de chip Qualcomm 8 serie 550, mejorar la velocidad de inferencia de los dispositivos finales y sentar las bases para la era de las PC con IA. .