বাইচুয়ান ইন্টেলিজেন্ট ট্রান্সফরমার দক্ষতা অপ্টিমাইজেশানের জন্য নতুন কৌশল প্রকাশ করেছে

বাইচুয়ান ইন্টেলিজেন্সের প্রাক-প্রশিক্ষণের প্রধান ওয়াং বিংনিং, "2024 গ্লোবাল মেশিন লার্নিং টেকনোলজি কনফারেন্স" এ ট্রান্সফরমার দক্ষতা অপ্টিমাইজেশানের উপর সর্বশেষ গবেষণার ফলাফল শেয়ার করেছেন। তিনি প্রস্তাব করেছিলেন যে দুটি অপ্টিমাইজেশান কৌশল, GQA এবং MQA বাস্তবায়নের মাধ্যমে, ডিকোডিং পর্যায়ে ট্রান্সফরমারের I/O বটলনেক সমস্যাটি কার্যকরভাবে সমাধান করা যেতে পারে, যার ফলে অনুমান দক্ষতা উন্নত হয়।