Så bygger OpenAI lagring för en miljard ChatGPT-användare

OpenAI Blog

OpenAI har skalat upp sin interna lagringsplattform Habitat – ursprungligen ett enkelt Python-bibliotek – till ett globalt distribuerat system som hanterar 22 miljoner förfrågningar per sekund för över en miljard ChatGPT-användare. Det intressanta här är egentligen hur snabbt infrastrukturen måste växa när en AI-tjänst faktiskt slår igenom i stor skala – det är en ingenjörsutmaning som sällan syns utåt.