Acelerador FPGA ajuda a inovar modelos de linguagem em larga escala como ChatGPT

Os aceleradores FPGA trazem inovação para grandes modelos de linguagem, como ChatGPT, aumentando a velocidade de inferência, reduzindo a latência e melhorando a compreensão da linguagem. Esses modelos são baseados em tecnologia de aprendizagem profunda, principalmente na arquitetura de transformadores, que exige muitos recursos de computação e memória. O chip FPGA Speedster7t da Achronix possui uma arquitetura exclusiva adequada para acelerar esses modelos.