Chuangda dosahuje end-to-end provozu modelu s 13 miliardami parametrů

2024-12-20 21:36
 0
S rozvojem technologie AI je třeba upgradovat tradiční počítače. Thunderda využívá kompresi modelu a další technologie k dosažení stabilního provozu modelu LLaMA-2 s 13 miliardami parametrů na čipové platformě Qualcomm 8 series 550, ke zlepšení inferenční rychlosti koncových zařízení a položení základů pro éru AI ​​PC. .