Amazon AWS uvádza na trh čip Inferentia 2 na urýchlenie odvodzovania modelov vo veľkom meradle

2024-12-26 07:13
 31
Amazon AWS uvádza na trh čip Inferentia 2, ktorý strojnásobuje výpočtový výkon a zvyšuje celkovú pamäť akcelerátora o štvrtinu. Inferentia 2 podporuje distribuované uvažovanie a môže podporovať až 175 miliárd parametrov, čo z neho robí silného konkurenta pre uvažovanie vo veľkom meradle.