Chip AI Inferentia của Amazon có thể giảm 40% chi phí vận hành

Amazon cho biết họ đã giảm 40% chi phí vận hành trên chip AI chuyên nghiệp khác, "Inferentia", được sử dụng để tạo ra phản hồi từ các mô hình AI. Dave Brown, phó chủ tịch dịch vụ mạng và điện toán tại AWS cho biết: “Khi chúng ta nói về học máy và trí tuệ nhân tạo, điện toán đám mây có xu hướng đắt hơn nhiều. “Khi bạn tiết kiệm 40% trong số 1.000 USD, điều đó không thực sự ảnh hưởng. sự lựa chọn của bạn. Nhưng khi bạn tiết kiệm được 40% trong số hàng chục triệu đô la, nó sẽ ảnh hưởng đến sự lựa chọn của bạn”.