ເທກໂນໂລຍີ Biren ຮ່ວມມືກັບ Wuwen Xinqiong ເພື່ອປະຕິບັດການຝຶກອົບຮົມສອງເທົ່າຂອງຕົວແບບຂະຫນາດໃຫຍ່

2024-12-28 08:48
 112
Biren Technology ແລະ Wuwen Xinqiong ຮ່ວມກັນພັດທະນາມັນແລະປະຕິບັດຫນ້າທີ່ຢ່າງສໍາເລັດຜົນເຊັ່ນ: ຄວາມທົນທານຄວາມຜິດ elastic ແລະການກວດຫາຂໍ້ບົກພ່ອງໃນກຸ່ມການຝຶກອົບຮົມ Qianka, ແລະເກືອບສອງເທົ່າຂອງການປະຕິບັດການຝຶກອົບຮົມຂອງຕົວແບບ LLM. Bili 110E inference card ສາມາດບັນລຸເຖິງ 1.3 ເທົ່າຂອງຄວາມຫນາແຫນ້ນຂອງພະລັງງານຄອມພິວເຕີ AI ຂອງ mainstream cloud PCIE8 card server solutions ໃນຕະຫຼາດ, ໃນຂະນະທີ່ປະຫຍັດ 70% ຂອງການບໍລິໂພກພະລັງງານ. ບັດ inference Bili 110E ໄດ້ຖືກເປີດຕົວໃນແພລະຕະຟອມການບໍລິການແບບຈໍາລອງຂະຫນາດໃຫຍ່ຂອງ Wuwen Xinqiong, ສະຫນັບສະຫນູນຫຼາຍໆສະຖານະການຄໍາຮ້ອງສະຫມັກ inference ປັນຍາປະດິດ.