FPGA ускорителят помага за иновациите в широкомащабни езикови модели като ChatGPT

FPGA ускорителите внасят иновации в големи езикови модели като ChatGPT, като увеличават скоростта на извод, намаляват латентността и подобряват разбирането на езика. Тези модели се основават на технология за задълбочено обучение, особено на трансформаторната архитектура, която изисква много изчислителни ресурси и памет. Speedster7t FPGA чипът на Achronix има уникална архитектура, която е подходяща за ускоряване на такива модели.