Chuangda alcança operação ponta a ponta do modelo de 13 bilhões de parâmetros

0
Com o desenvolvimento da tecnologia de IA, os PCs tradicionais precisam ser atualizados. Thunderda usa compactação de modelo e outras tecnologias para obter operação estável do modelo LLaMA-2 de 13 bilhões de parâmetros na plataforma de chip Qualcomm série 8 550, melhorar a velocidade de inferência de dispositivos finais e estabelecer as bases para a era AI PC .