Baichuan Intelligent បញ្ចេញយុទ្ធសាស្ត្រថ្មីសម្រាប់ការបង្កើនប្រសិទ្ធភាព Transformer

2024-12-27 06:16
 74
លោក Wang Bingning ប្រធានផ្នែកបណ្តុះបណ្តាលមុននៅ Baichuan Intelligence បានចែករំលែកលទ្ធផលស្រាវជ្រាវចុងក្រោយបង្អស់ស្តីពីការបង្កើនប្រសិទ្ធភាព Transformer នៅក្នុង "សន្និសីទបច្ចេកវិទ្យារៀនម៉ាស៊ីនសកលឆ្នាំ 2024"។ លោកបានស្នើថា ដោយការអនុវត្តយុទ្ធសាស្រ្តបង្កើនប្រសិទ្ធភាពពីរគឺ GQA និង MQA បញ្ហាស្ទះ I/O នៃ Transformer ក្នុងដំណាក់កាលនៃការឌិកូដអាចត្រូវបានដោះស្រាយយ៉ាងមានប្រសិទ្ធភាព ដោយហេតុនេះធ្វើអោយប្រសើរឡើងនូវប្រសិទ្ធភាពនៃការសន្និដ្ឋាន។