НВИДИА објављује нову хардверску платформу за АИ решење

154
Произвођач чипова за вештачку интелигенцију (АИ) НВИДИА је 19. новембра званично лансирао две нове хардверске платформе за АИ решење, а то су Блацквелл ГБ200 НВЛ4 и Хоппер Х200 НВЛ. Међу њима, НВИДИА ГБ200 НВЛ4 је потпуно нови модул, који је веће проширење засновано на оригиналном ГБ200 Граце Блацквелл Суперцхип АИ решењу. ГБ200 НВЛ4 модул конфигурише два Блацквелл ГБ200 ГПУ-а на већој матичној плочи, односно има два Граце ЦПУ-а и четири Блацквелл Б200 ГПУ-а. Модул је дизајниран као једно серверско решење са 4-ГПУ НВЛИНК доменима и 1.3Т кохерентном меморијом. Што се тиче перформанси, модул ће побољшати перформансе симулације за 2,2 пута и перформансе обуке и закључивања за 1,8 пута. НВИДИА-ини партнери ће обезбедити НВЛ4 решења у наредним месецима. Поред тога, Хоппер Х200 НВЛ заснован на ПЦИе-у је сада генерално доступан, а ове картице могу да повежу до 4 ГПУ-а преко НВЛИНК домена, испоручујући до 7к бржи пропусни опсег од стандардних ПЦИе решења. Нвидиа каже да се решење Х200 НВЛ може уклопити у било који центар података и нуди низ флексибилних конфигурација сервера оптимизованих за мешовита ХПЦ и АИ радна оптерећења. Што се тиче спецификација, Хоппер Х200 НВЛ решење обезбеђује 1,5к ХБМ меморију, 1,7к ЛЛМ перформансе закључивања и 1,3к ХПЦ перформансе. Добијате 114 СМ-ова за укупно 14592 ЦУДА језгра, 456 тензорских језгара и до 3 ФП8 ТФЛОП (ФП16 кумулативне) перформансе. ГПУ има 80 Гб ХБМ2е меморије конфигурисане преко 5120-битног интерфејса и има ТДП од 350 вати. Што се тиче ТДП-а, пошто је Суперцхип модул око 2700В, очекујте да ће веће ГБ200 НВЛ4 решење трошити близу 6000В енергије.