商汤科技引领AI基础设施服务,推动算电一体化协同,提升推理性能4倍

2024-08-30 10:44
 59
商汤科技,作为国内AI基础设施服务的领导者,积极推行训推一体、算电协同等创新技术应用,取得显著成效。其大装置在推理场景下实现了同等算力及电力成本下的每秒请求数(QPS)4倍提升,并实现了推理服务弹性按需伸缩,优化了大规模AI推理的整体成本。商汤科技大装置运营总算力规模已突破20,000 PetaFLOPS,为行业提供高能效比的绿色智算服务。