شركة Baichuan Intelligent تطلق استراتيجية جديدة لتحسين كفاءة المحولات

شارك وانغ بينغنينغ، رئيس التدريب المسبق في شركة Baichuan Intelligence، أحدث نتائج الأبحاث حول تحسين كفاءة المحولات في "المؤتمر العالمي لتكنولوجيا التعلم الآلي لعام 2024". واقترح أنه من خلال تنفيذ استراتيجيتين للتحسين، GQA وMQA، يمكن حل مشكلة اختناق الإدخال / الإخراج للمحول في مرحلة فك التشفير بشكل فعال، وبالتالي تحسين كفاءة الاستدلال.