Amazon AWS verëffentlecht Inferentia 2 Chip fir grouss Skala Modellinferenz ze beschleunegen
AWS
Mo
Erënnerung
deel
Begrënnung
Chip
Amazon
Modell
Erënnerung
verdeelt
ëffentlech
Beschleuniger
Véierel
Erënnerung
Skala
Erënnerung
Erënnerung
2024-12-26 07:13
31
Amazon AWS verëffentlecht den Inferentia 2 Chip, deen d'Computerleistung verdreift an d'total Beschleuniger Erënnerung ëm e Véierel erhéicht. Inferentia 2 ënnerstëtzt verdeelt Begrënnung a kann bis zu 175 Milliarde Parameteren ënnerstëtzen, sou datt et e staarke Konkurrent fir grouss Skala Modellergrënnung mécht.
