Chuangda erreecht Enn-zu-Enn Operatioun vun 13 Milliarden Parameter Modell

2024-12-20 21:36
 0
Mat der Entwécklung vun der AI Technologie mussen traditionell PCs upgradéiert ginn. Thunderclap benotzt Modellkompressioun an aner Technologien fir stabil Operatioun vum LLaMA-2 13 Milliarde Parametermodell op der Qualcomm 8 Serie 550 Chipplattform z'erreechen, d'Inferenzgeschwindegkeet vun End-Säit Geräter ze verbesseren an d'Fundament fir d'AI PC Ära ze leeën. .