OpenAI lanserar Decisions API för snabbare appbeslut
OpenAI har släppt ett Decisions API riktat mot utvecklare som behöver snabba, billiga beslut i realtid inom sina applikationer – tänk klassificering, filtrering eller routing (att styra trafik till rätt funktion). Det är ett smalt verktyg med ett tydligt syfte: inte för komplexa resonemang, utan för höga volymer av enkla beslut till låg kostnad.
Djupdykning
Anthropics nya Decisions API syftar till att lösa ett klassiskt problem i AI-produktutveckling: att du inte alltid behöver en fullständig språkmodell som skriver en uppsats, ibland behöver du bara ett snabbt ja/nej eller en enkel klassificering. Tänk på det som skillnaden mellan att ringa en specialist för ett tre timmars konsultmöte kontra att skicka ett snabbmeddelande, samma kompetens men rätt format för rätt situation. Genom att erbjuda lägre latens och lägre kostnad per anrop öppnar det upp för användningsfall som tidigare var ekonomiskt ohållbara, som att köra AI-beslut på varje enskild sidladdning eller i realtidsflöden. Det de flesta missar är att den verkliga konkurrenten här inte är GPT-4 eller Gemini, utan de regelbaserade if-satser och enkla ML-modeller som fortfarande driver enorma delar av produktionsinfrastruktur världen över. Om Anthropic lyckas pressa priset och svarstiden tillräckligt långt kan de ta den marknaden, inte bara den generativa AI-marknaden.