چوانگدا به عملیات سرتاسر مدل 13 میلیارد پارامتری دست می یابد

0
با توسعه فناوری هوش مصنوعی، رایانه های شخصی سنتی نیاز به ارتقا دارند. تاندردا از فشردهسازی مدل و سایر فناوریها برای دستیابی به عملکرد پایدار مدل پارامتری 13 میلیارد LLaMA-2 روی پلتفرم تراشههای سری 8 کوالکام 550، بهبود سرعت استنتاج دستگاههای انتهایی، و پایهگذاری عصر AI PC استفاده میکند. .