Baichuan Intelligent nxjerr një strategji të re për optimizimin e efikasitetit të transformatorëve

Wang Bingning, kreu i para-trajnimit në Baichuan Intelligence, ndau rezultatet më të fundit të kërkimit mbi optimizimin e efikasitetit të transformatorit në "Konferencën Globale të Teknologjisë së Mësimit të Makinerisë 2024". Ai propozoi që duke zbatuar dy strategji optimizimi, GQA dhe MQA, problemi i bllokimit të I/O të Transformer-it në fazën e dekodimit mund të zgjidhet në mënyrë efektive, duke përmirësuar kështu efikasitetin e përfundimit.