Baichuan Intelligent uvádí novou strategii pro optimalizaci účinnosti transformátoru

Wang Bingning, vedoucí předškolního vzdělávání v Baichuan Intelligence, se podělil o nejnovější výsledky výzkumu optimalizace účinnosti transformátoru na „Globální konferenci o technologii strojového učení 2024“. Navrhl, že implementací dvou optimalizačních strategií, GQA a MQA, lze problém I/O úzkého místa Transformeru ve fázi dekódování efektivně vyřešit, čímž se zlepší efektivita odvození.