Грок чип за закључак великог модела има одличне перформансе и троши само једну десетину потрошње енергије НВИДИА ГПУ-а

2024-12-26 18:39
 48
Гроков велики чип за закључивање модела предлаже решење ЛПУ (Јединица за обраду језика) по први пут у свету, што је Тенсор Стреаминг Процессор (ТСП) чип заснован на ТСА архитектури. Иако Грок-ов ЛПУ не користи скупу најсавременију процесну технологију, већ бира 14нм процес, његове перформансе су и даље одличне, пружајући до 1000 ТОПС рачунарске снаге, а његове перформансе на неким моделима машинског учења су боље од оних код конвенционалних ГПУ-а и ТПУ је побољшан за 10 до 100 пута. Поред тога, потрошња енергије Грок ЛПУ чипова је само једна десетина од Нвидиа ГПУ-а.