Minnespriser upp 500% på ett år – AI-boomen sätter hårt tryck på hårdvaran

Latent Space

Priserna på datorminne har stigit med 500% på tolv månader, och tillgången på hårdvara har enligt rapporten backat till nivåer vi senast såg 2007 – Moores lag (principen att datorkraft fördubblas ungefär vart annat år) verkar alltså gå baklänges just nu. Det är AI-träningens enorma minneshunger som driver bristen, och det börjar bli en konkret flaskhals för bolag som vill bygga eller skala upp modeller.

Djupdykning

Minnespriser har exploderat med 500% på ett år, och vi befinner oss i ett läge där kostnaden per gigabyte har rullat tillbaka till 2007 års nivåer – det vill säga innan smartphoneboomen tvingade tillverkarna att skala upp produktionen massivt. Drivkraften är enkel: AI-träning och inferens (det vill säga när modeller faktiskt kör och svarar på frågor) är extremt minneshungriga, och efterfrågan från datacenter har sugit upp kapaciteten snabbare än fabriker kan byggas. Moores lag – tumregeln om att datorkraft fördubblas var artonde månad till sjunkande kostnad – verkar just nu köra baklänges på minnessidan, vilket är ett ganska häpnadsväckande brott mot tre decenniers teknikhistoria. Det de flesta missar är att det här inte bara är ett problem för techgiganterna med sina GPU-kluster, utan att det sipprar nedåt i hela ekosystemet: spelbolag, bilproducenter, molntjänster och konsumentelektronik betalar alla mer, och de kostnaderna läggs förr eller senare på slutpriset. AI-boomen ser ofta ut som en mjukvarufråga, men i grunden är den hårdvarubunden – och just nu är hårdvaran en flaskhals som ingen riktigt pratade om när alla fokuserade på ChatGPT och modellkapplöpningen.