حققت Chuangda التشغيل الشامل لـ 13 مليار نموذج معلمة
الذكاء الاصطناعي للكمبيوتر الشخصي
مع
ال
و
تحت
لا
الاستدلال
ضغط
تحسين
الكم
نموذج
تكنولوجيا
عصر الذكاء
سرعة
سرعة
لا
تحقيق
الذكاء الاصطناعي
الذكاء الاصطناعي
2024-12-20 21:36
0
مع تطور تكنولوجيا الذكاء الاصطناعي، تحتاج أجهزة الكمبيوتر التقليدية إلى الترقية. تستخدم Thunderda ضغط النماذج والتقنيات الأخرى لتحقيق تشغيل مستقر لنموذج LLaMA-2 الذي يحتوي على 13 مليار معلمة على منصة شرائح Qualcomm 8 series 550، وتحسين سرعة الاستدلال للأجهزة الطرفية، ووضع الأساس لعصر الذكاء الاصطناعي للكمبيوتر الشخصي .
