Az Amazon AWS kiadja az Inferentia 2 chipet, hogy felgyorsítsa a nagyszabású modellkövetkeztetést

2024-12-26 07:13
 31
Az Amazon AWS kiadja az Inferentia 2 chipet, amely megháromszorozza a számítási teljesítményt, és negyedével növeli a teljes gyorsítómemóriát. Az Inferentia 2 támogatja az elosztott érvelést, és akár 175 milliárd paramétert is támogathat, így erős versenytársa a nagyszabású modellalapú gondolkodásnak.