商汤大模型昇腾原生开发实践:集群规模扩大3倍,线性加速比超97%

2024-09-25 14:31
 267
商汤大模型基于昇腾原生开发实践,实现了集群规模的3倍扩展,线性加速比超过97%。此外,其102B模型训练性能达到业界120%以上。商汤大装置事业群研发总监张行程在华为全联接大会上分享了这一成果。商汤与华为合作解决了AI时代数据中心网络建设挑战,提升了大规模集群吞吐量,提高了训练效率,实现了AI大模型的快速迭代。