Baichuan Intelligent Transformator Effektivliyinin Optimizasiyası üçün Yeni Strategiyasını Çıxarır

Baichuan Intelligence-in ön təlim rəhbəri Wang Bingning, "2024 Qlobal Maşın Öyrənmə Texnologiyası Konfransı"nda Transformator səmərəliliyinin optimallaşdırılması üzrə ən son tədqiqat nəticələrini paylaşdı. O təklif etdi ki, iki optimallaşdırma strategiyasını, GQA və MQA tətbiq etməklə, deşifrləmə mərhələsində Transformatorun I/O darboğazı problemi effektiv şəkildə həll oluna bilər və beləliklə, nəticə çıxarma səmərəliliyi yaxşılaşdırıla bilər.