O chip de IA da Amazon, Inferentia, pode reduzir os custos operacionais em 40%

69
A Amazon disse que reduziu os custos operacionais em 40% em seu outro chip profissional de IA, o “Inferentia”, que é usado para gerar respostas a partir de modelos de IA. “Quando falamos sobre aprendizado de máquina e inteligência artificial, a computação em nuvem tende a ser muito mais cara”, disse Dave Brown, vice-presidente de serviços de computação e rede da AWS. “Quando você economiza 40% de US$ 1.000, isso realmente não causa impacto. sua escolha. Mas quando você economiza 40% de dezenas de milhões de dólares, isso afeta sua escolha.”