Công ty khởi nghiệp trí tuệ nhân tạo Groq của Mỹ ra mắt chip AI mới

Groq, một công ty khởi nghiệp về trí tuệ nhân tạo của Mỹ, gần đây đã ra mắt chip suy luận mô hình lớn trên đám mây mới. Con chip này sử dụng kiến ​​trúc Tensor Streaming Architecture (TSA) cải tiến và SRAM tốc độ cao để tăng tốc độ suy luận mô hình lớn lên hơn 10 lần, thậm chí. vượt quá GPU NVIDIA.