Biren Technology coopera con Wuwen Xinqiong para duplicar el rendimiento del entrenamiento de modelos grandes

2024-12-28 08:47
 112
Biren Technology y Wuwen Xinqiong lo desarrollaron conjuntamente e implementaron con éxito funciones como la tolerancia elástica a fallas y la detección de nodos anormales en el grupo de entrenamiento Qianka, y casi duplicaron el rendimiento del entrenamiento del modelo LLM. La tarjeta de inferencia Bili 110E puede alcanzar hasta 1,3 veces la densidad de potencia de computación de IA de las principales soluciones de servidor de tarjetas PCIE8 en la nube del mercado, al tiempo que ahorra un 70% del consumo de energía. La tarjeta de inferencia Bili 110E se lanzó en la gran plataforma de servicios de modelos de Wuwen Xinqiong, y admite una variedad de escenarios de aplicaciones de inferencia de inteligencia artificial.