NVIDIA выпускае новую апаратную платформу рашэння AI

19 лістапада вытворца мікрасхем штучнага інтэлекту (AI) NVIDIA афіцыйна запусціў дзве новыя апаратныя платформы рашэнняў AI, а менавіта Blackwell GB200 NVL4 і Hopper H200 NVL. Сярод іх NVIDIA GB200 NVL4 - гэта зусім новы модуль, які з'яўляецца больш маштабным пашырэннем на аснове арыгінальнага рашэння GB200 Grace Blackwell Superchip AI. Модуль GB200 NVL4 канфігуруе два графічных працэсара Blackwell GB200 на большай матчынай плаце, гэта значыць, ён мае два працэсара Grace і чатыры графічных працэсара Blackwell B200. Модуль распрацаваны як адзінае сервернае рашэнне з 4-графічнымі даменамі NVLINK і 1,3 Т кагерэнтнай памяці. Што тычыцца прадукцыйнасці, модуль палепшыць прадукцыйнасць мадэлявання ў 2,2 разы, а прадукцыйнасць навучання і вываду - у 1,8 разы. Партнёры NVIDIA прадаставяць рашэнні NVL4 у бліжэйшыя месяцы. Акрамя таго, Hopper H200 NVL на аснове PCIe цяпер агульнадаступны, і гэтыя карты могуць падключаць да 4 графічных працэсараў праз дамен NVLINK, забяспечваючы да 7 разоў большую прапускную здольнасць, чым стандартныя рашэнні PCIe. Nvidia кажа, што рашэнне H200 NVL можа ўпісацца ў любы цэнтр апрацоўкі дадзеных і прапануе шэраг гнуткіх канфігурацый сервера, аптымізаваных для змешаных нагрузак HPC і AI. Што тычыцца спецыфікацый, рашэнне Hopper H200 NVL забяспечвае 1,5-кратную памяць HBM, 1,7-кратную прадукцыйнасць вываду LLM і 1,3-кратную прадукцыйнасць HPC. Вы атрымліваеце 114 SM для агульнай колькасці 14592 ядраў CUDA, 456 тэнзарных ядраў і да 3 FP8 TFLOP (сукупная прадукцыйнасць FP16). Графічны працэсар мае 80 Гб памяці HBM2e, сканфігураваны праз 5120-бітны інтэрфейс, і мае TDP 350 Вт. Што тычыцца TDP, паколькі модуль Superchip складае каля 2700 Вт, чакайце, што большае рашэнне GB200 NVL4 будзе спажываць магутнасць бліжэй да 6000 Вт.