Amazon AWS, büyük ölçekli model çıkarımını hızlandırmak için Inferentia 2 çipini piyasaya sürdü

Amazon AWS, bilgi işlem performansını üç katına çıkaran ve toplam hızlandırıcı belleğini dörtte bir oranında artıran Inferentia 2 çipini piyasaya sürdü. Inferentia 2, dağıtılmış akıl yürütmeyi destekler ve 175 milyara kadar parametreyi destekleyebilir, bu da onu büyük ölçekli model akıl yürütme için güçlü bir rakip haline getirir.