Il modello mainstream H100 nel 2024 sarà dotato di HBM3 da 80 GB, mentre si prevede che il chip mainstream nel 2025 sarà dotato di HBM3e da 288 GB

Il modello H100 di fascia media del 2024 sarà dotato di HBM3 da 80 GB. Si prevede che entro il 2025 i chip più diffusi, come Blackwell Ultra di NVIDIA o MI350 di AMD, saranno dotati di HBM3e fino a 288 GB, triplicando l'utilizzo dell'unità. Grazie alla continua forte domanda nel mercato dei server AI, si prevede che l'offerta complessiva di HBM raddoppierà entro il 2025, il che aumenterà anche la domanda di CoWoS e HBM.