商湯科技引領AI基礎設施服務,推動算電整合,提升推理性能4倍

2024-08-30 10:44
 59
商湯科技,身為國內AI基礎設施服務的領導者,積極推行訓推一體、算電協同等創新技術應用,取得顯著成效。其大裝置在推理場景下實現了同等算力及電力成本下的每秒請求數(QPS)4倍提升,並實現了推理服務彈性按需伸縮,優化了大規模AI推理的整體成本。商湯科技大裝置營運總算力規模已突破20,000 PetaFLOPS,為業界提供高能效比的綠色智算服務。