צ'ואנגדה משיגה פעולה מקצה לקצה של מודל של 13 מיליארד פרמטרים

2024-12-20 21:36
 0
עם התפתחות טכנולוגיית AI, יש לשדרג מחשבים מסורתיים. Thunderda משתמשת בדחיסת מודל ובטכנולוגיות אחרות כדי להשיג פעולה יציבה של דגם LLaMA-2 13 מיליארד פרמטרים בפלטפורמת השבבים Qualcomm 8 מסדרת 550, לשפר את מהירות ההסקה של התקני צד קצה ולהניח את הבסיס לעידן ה-AI PC .