Biren Technology sodeluje z Wuwen Xinqiong, da podvoji učinkovitost treninga velikih modelov

2024-12-28 08:47
 112
Biren Technology in Wuwen Xinqiong sta ga skupaj razvila in uspešno implementirala funkcije, kot sta elastična toleranca napak in zaznavanje nenormalnih vozlišč v vadbeni gruči Qianka, ter skoraj podvojila zmogljivost vadbe modela LLM. Inferenčna kartica Bili 110E lahko doseže do 1,3-krat večjo gostoto računalniške moči umetne inteligence v primerjavi z glavnimi rešitvami strežnika kartic PCIE8 v oblaku na trgu, hkrati pa prihrani 70 % porabe energije. Sklepna kartica Bili 110E je bila uvedena na veliki modelni storitveni platformi Wuwen Xinqiong, ki podpira različne scenarije aplikacij za sklepanje z umetno inteligenco.