Terukir optimistik tentang masa depan seni bina Transformer

2024-06-27 12:11
 52
Etched yakin bahawa seni bina Transformer akan menjadi arus perdana dalam bidang AI, jadi mereka melabur banyak dalam pembangunan cip Sohu. Cip ini direka untuk seni bina Transformer dan dijangka menjadi kejayaan besar dalam pasaran AI. Kerana ia dioptimumkan untuk seni bina Transformer, cip Sohu lebih cekap dalam memproses tugas AI berbanding GPU Nvidia, mengurangkan kos operasi pusat data keseluruhan. Etched telah bekerjasama dengan TSMC untuk menghasilkan cip Sohu menggunakan proses 4nm. Di samping itu, syarikat telah mencapai persetujuan dengan pembekal utama untuk memastikan bekalan HBM dan pelayan mencukupi untuk meningkatkan kapasiti pengeluaran pada tahun pertama. Beberapa pelanggan awal telah memesan berpuluh-puluh juta dolar dalam perkakasan daripada Etched. Cip ini mengatasi prestasi inferens model bahasa besar AI (LLM) GPU terbaharu Nvidia, dan prestasi AI mencapai 20 kali ganda daripada H100.