„Amazon AWS“ išleidžia „Inferentia 2“ lustą, kad paspartintų didelio masto modelio išvadas

2024-12-26 07:13
 31
„Amazon AWS“ išleidžia „Inferentia 2“ lustą, kuris trigubai padidina skaičiavimo našumą ir padidina bendrą greitintuvo atmintį ketvirtadaliu. „Inferentia 2“ palaiko paskirstytą samprotavimą ir gali palaikyti iki 175 milijardų parametrų, todėl yra stiprus konkurentas didelio masto modelių samprotavimams.