Etched lạc quan về tương lai của kiến ​​trúc Transformer

2024-06-27 12:11
 52
Etched tin chắc rằng kiến ​​trúc Transformer sẽ trở thành xu hướng chủ đạo trong lĩnh vực AI nên họ đã đầu tư rất nhiều vào việc phát triển chip Sohu. Con chip này được thiết kế cho kiến ​​trúc Transformer và được kỳ vọng sẽ đạt được thành công lớn trên thị trường AI. Vì được tối ưu hóa cho kiến ​​trúc Transformer nên chip Sohu xử lý các tác vụ AI hiệu quả hơn so với GPU của Nvidia, giúp giảm chi phí vận hành tổng thể của trung tâm dữ liệu. Etched đã hợp tác với TSMC để sản xuất chip Sohu bằng quy trình 4nm. Ngoài ra, công ty đã đạt được thỏa thuận với các nhà cung cấp hàng đầu để đảm bảo cung cấp đủ HBM và máy chủ nhằm tăng năng lực sản xuất trong năm đầu tiên. Một số khách hàng ban đầu đã đặt hàng phần cứng trị giá hàng chục triệu đô la từ Etched. Con chip này vượt qua GPU B200 mới nhất của Nvidia về hiệu suất suy luận mô hình ngôn ngữ lớn (LLM) AI và hiệu suất AI đạt gấp 20 lần so với H100.