壁仞科技與無問芯穹合作,實現大模型訓練性能翻倍提升

2024-12-28 08:47
 112
壁仞科技與無問芯穹共同研發,成功在千卡訓練群聚上實現彈性容錯、異常節點探測等功能,並使LLM模型訓練性能提升近1倍。壁礪110E推理卡最高可達市場主流雲端PCIE8卡伺服器方案的1.3倍AI算力密度,同時能耗節省70%。壁礪110E推理卡已在無問芯穹的大模型服務平台中上線,支援多種人工智慧推理應用場景。