Ang Etched ay optimistiko tungkol sa hinaharap ng arkitektura ng Transformer

2024-06-27 12:11
 52
Matatag ang paniniwala ni Etched na ang arkitektura ng Transformer ay magiging mainstream sa larangan ng AI, kaya namuhunan sila nang malaki sa pagbuo ng Sohu chip. Ang chip na ito ay idinisenyo para sa arkitektura ng Transformer at inaasahang magiging isang malaking tagumpay sa merkado ng AI. Dahil ito ay na-optimize para sa arkitektura ng Transformer, ang mga Sohu chips ay mas mahusay sa pagproseso ng mga gawain ng AI kaysa sa mga GPU ng Nvidia, na binabawasan ang pangkalahatang mga gastos sa pagpapatakbo ng data center. Nakipagsosyo ang Etched sa TSMC para makagawa ng Sohu chips nito gamit ang 4nm process. Bilang karagdagan, ang kumpanya ay nakipagkasunduan sa mga nangungunang supplier upang matiyak ang sapat na supply ng HBM at mga server upang madagdagan ang kapasidad ng produksyon sa unang taon. Ang ilang mga naunang customer ay nag-order ng sampu-sampung milyong dolyar sa hardware mula sa Etched. Ang chip na ito ay nalampasan ang pinakabagong B200 GPU ng Nvidia sa AI large language model (LLM) inference performance, at ang AI ​​performance ay umaabot ng 20 beses kaysa sa H100.