L'acceleratore FPGA aiuta a innovare modelli linguistici su larga scala come ChatGPT

Gli acceleratori FPGA apportano innovazione a modelli linguistici di grandi dimensioni come ChatGPT aumentando la velocità di inferenza, riducendo la latenza e migliorando la comprensione del linguaggio. Questi modelli si basano sulla tecnologia di deep learning, in particolare sull’architettura del trasformatore, che richiede molte risorse di calcolo e di memoria. Il chip FPGA Speedster7t di Achronix ha un'architettura unica adatta per accelerare tali modelli.