Amazon AWS stel Inferentia 2-skyfie vry om grootskaalse modelafleidings te versnel

31
Amazon AWS stel Inferentia 2-skyfie vry, wat rekenaarwerkverrigting verdriedubbel en die totale versnellergeheue met 'n kwart verhoog. Inferentia 2 ondersteun verspreide redenasie en kan tot 175 miljard parameters ondersteun, wat dit 'n sterk mededinger vir grootskaalse model redenering maak.