אמזון AWS משחררת שבב Inferentia 2 כדי להאיץ מסקנות של דגמים בקנה מידה גדול
2024-12-26 07:13
31
אמזון AWS משחררת שבב Inferentia 2, שמשלש את ביצועי המחשוב ומגדיל את זיכרון המאיץ הכולל ברבע. Inferentia 2 תומך בהיגיון מבוזר ויכול לתמוך בעד 175 מיליארד פרמטרים, מה שהופך אותה למתחרה חזקה בהנמקת מודלים בקנה מידה גדול.
