OpenAI lanserar ultrasnabb API-nivå med GPT-5.6 Sol – upp till 14 gånger snabbare

OpenAI Blog

OpenAI förhandsgranskar 'Ultrafast', en ny nivå i sitt API (programmeringsgränssnitt för utvecklare) som kör modellen GPT-5.6 Sol upp till 14 gånger snabbare än tidigare. Tjänsten drivs av chipföretaget Cerebras och levererar upp till 750 tokens (textsegment) per sekund – vilket i praktiken innebär nästan omedelbara svar. Det intressanta här är att hastigheten uppnås via extern hårdvara snarare än OpenAIs egna datacenter, ett tecken på att kampen om inferenshastighet (hur snabbt en AI kan svara) nu är minst lika het som kampen om modellernas smarthet.