Nya chip, nya verktyg – tech tar nästa steg

De flesta som bygger på AI-API:er har lärt sig att leva med en tyst kompromiss: vill du ha snabba svar per request, eller vill du stoppa in så många requests som möjligt parallellt? Normalt är det ett antingen-eller. OpenAIs hårdvaruchef Richard Ho påstår att Jalapeño gör det till ett både-och.

Jalapeño är ett ASIC, alltså ett chip designat för ett enda syfte, byggt ihop med Broadcom specifikt för AI-inferens. Inte träning, inte forskning, utan det OpenAI faktiskt gör i produktion varje sekund: köra färdiga modeller mot miljontals requests.

Det är värt att stanna vid vad det faktiskt innebär om det stämmer. Latens och genomströmning har traditionellt konkurrerat om samma hårdvaruresurser. Hög genomströmning kräver att chipet batchar requests och väntar in fler jobb innan det kör, vilket ökar latensen. Låg latens kräver att chipet prioriterar individuella requests direkt, vilket slösar kapacitet. Ett chip som verkligen klarar båda utan kompromiss vore en arkitekturell bedrift, inte bara ett marknadsföringspåstående.

OpenAI har ännu inte publicerat oberoende benchmarks, så Hos ord får tills vidare stå mot sig själva. Men riktningen är tydlig: efter år av beroende av Nvidia vill OpenAI äga hela stacken, inklusive kisel. Jalapeño är inte det första steget i den strategin, men det är det första med ett namn och en pressrelease.

För den som bygger produkter på OpenAI-API:er förändrar detta ingenting direkt idag. Men på sikt avgör just den här typen av hårdvarukontroll vad som är möjligt att erbjuda utan att förlora pengar på varje token, och det påverkar vad som händer med prissättning, hastighetsgränser och vilka modeller som faktiskt görs tillgängliga.

First Draft är Instagrams svar på den klassiska flaskhalsen i kortvideoflödet: alla har råmaterial, ingen orkar redigera. Funktionen, som rullar ut till iPhone-appen, tar dina befintliga klipp, analyserar dem och producerar ett ihopsatt utkast med pauser bortklippta och de starkaste sekvenserna i fokus.

Det är ett bekant grepp. TikTok har länge experimenterat med AI-assisterad redigering, och CapCut, som ägs av ByteDance, har gjort just det här till sin kärnfunktion. Meta svarar nu med en inbyggd variant direkt i flödet, utan att du behöver byta app.

Det intressanta är inte att funktionen finns, utan var den sitter. Att slippa exportera, importera och redigera i ett separat verktyg innan du publicerar sänker friktionen tillräckligt för att en ny grupp skapare faktiskt ska börja. Det är skillnaden mellan "jag borde lägga upp det här" och att faktiskt göra det.

Samtidigt är den kritiska frågan, som alltid med automatisk klippning, hur bra modellen faktiskt är på att välja rätt ögonblick. Att ta bort pauser är lätt. Att förstå vad som är intressant i ett klipp är svårare. Om First Draft konsekvent väljer fel delar, eller producerar utkast som känns generiska, lär skapare med lite mer erfarenhet snabbt gå tillbaka till att klippa manuellt.

För creators som redan investerat tid i att lära sig Capcut eller liknande verktyg är det troligen inte ett skäl att byta arbetsflöde. Men för den som publicerar sporadiskt och fastnar i redigeringssteget kan det vara tillräckligt för att ta bort det sista hindret.