SenseTime guida i servizi infrastrutturali di intelligenza artificiale, promuove la collaborazione integrata tra elaborazione ed elettricità e migliora le prestazioni di inferenza di 4 volte

2024-08-30 10:44
 59
SenseTime, in qualità di leader nei servizi infrastrutturali di intelligenza artificiale nazionale, ha promosso attivamente l'applicazione di tecnologie innovative quali la formazione e il push integrati e la collaborazione tra informatica ed elettronica, ottenendo risultati notevoli. Il suo dispositivo di grandi dimensioni ha ottenuto un incremento di 4 volte delle richieste al secondo (QPS) nello scenario di inferenza, mantenendo la stessa potenza di calcolo e lo stesso costo dell'elettricità, e ha ottenuto un ridimensionamento elastico su richiesta dei servizi di inferenza, ottimizzando il costo complessivo dell'inferenza AI su larga scala. La potenza di calcolo complessiva delle strutture operative su larga scala di SenseTime ha superato i 20.000 PetaFLOPS, offrendo al settore servizi di elaborazione intelligente ed ecologica con elevata efficienza energetica.