De mainstream H100 zal in 2024 worden uitgerust met 80GB HBM3, en de mainstream chip zal naar verwachting in 2025 worden uitgerust met 288GB HBM3e

De mainstream H100 uit 2024 zal worden uitgerust met 80GB HBM3. Verwacht wordt dat gangbare chips zoals de Blackwell Ultra van NVIDIA of de MI350 van AMD tegen 2025 zijn uitgerust met maximaal 288 GB HBM3e, waardoor het gebruik ervan verdrievoudigt. Gezien de aanhoudend sterke vraag op de AI-servermarkt zal het totale aanbod van HBM naar verwachting tegen 2025 verdubbelen, wat ook de vraag naar CoWoS en HBM zal stimuleren.