Pengiriman GPU pusat data global akan mencapai 3,85 juta unit pada tahun 2023

Menurut data TechInsights, total pengiriman GPU pusat data global akan mencapai 3,85 juta unit pada tahun 2023, dimana Nvidia akan mengirimkan 3,76 juta unit. Kartu akselerator NVIDIA H100 dijual dengan harga lebih dari US$25.000, dan AI GPU B200 generasi baru berharga sekitar US$30.000 hingga US$40.000. Jika kemampuan model besar meningkat 10 kali lipat setiap tahun, kinerja infrastruktur perangkat keras juga perlu ditingkatkan 10 kali lipat. Meskipun jumlah chip AI yang dibutuhkan tidak meningkat 10 kali lipat, biayanya mungkin meningkat 10 kali lipat.