Baichuan Intelligent ປ່ອຍຍຸດທະສາດໃຫມ່ສໍາລັບການເພີ່ມປະສິດທິພາບປະສິດທິພາບການຫັນເປັນ

Wang Bingning, ຫົວຫນ້າການຝຶກອົບຮົມກ່ອນຂອງ Baichuan Intelligence, ໄດ້ແບ່ງປັນຜົນການຄົ້ນຄວ້າຫລ້າສຸດກ່ຽວກັບການເພີ່ມປະສິດທິພາບການຫັນປ່ຽນໃນ "ກອງປະຊຸມເຕັກໂນໂລຢີການຮຽນຮູ້ເຄື່ອງຈັກທົ່ວໂລກ 2024". ທ່ານ​ໄດ້​ສະ​ເໜີ​ວ່າ, ​ໂດຍ​ການ​ປະຕິບັດ​ສອງ​ຍຸດ​ທະ​ສາດ​ການ​ປັບ​ປຸງ, GQA ​ແລະ MQA, ບັນຫາ​ຄໍ​ຂອດ I/O ຂອງ Transformer ​ໃນ​ຂັ້ນ​ຕອນ​ການ​ຖອດ​ລະຫັດ​ສາມາດ​ແກ້​ໄຂ​ໄດ້​ຢ່າງ​ມີ​ປະສິດທິ​ຜົນ, ​ໂດຍ​ວິທີ​ນີ້​ຈຶ່ງ​ໄດ້​ຮັບ​ການ​ປັບປຸງ​ປະສິດທິ​ຜົນ​ການ​ຄົ້ນ​ຫາ.