Biren Technology співпрацює з Wuwen Xinqiong, щоб подвоїти ефективність навчання великих моделей

2024-12-28 08:47
 112
Biren Technology і Wuwen Xinqiong спільно розробили його та успішно реалізували такі функції, як еластична відмовостійкість і виявлення аномальних вузлів у навчальному кластері Qianka, і майже вдвічі збільшили ефективність навчання моделі LLM. Інферентна карта Bili 110E може досягти в 1,3 рази більшої щільності обчислювальної потужності штучного інтелекту порівняно з основними хмарними серверними рішеннями PCIE8 на ринку, заощаджуючи при цьому 70% споживання енергії. Картка висновків Bili 110E була запущена на платформі обслуговування великої моделі Wuwen Xinqiong, яка підтримує різноманітні сценарії застосування штучного інтелекту.