Kimi K3: Opus-kvalitet till Sonnet-pris
2,8 biljoner totala parametrar, varav 50 miljarder aktiva per förfrågan via mixture-of-experts-arkitektur. Det är Kimi K3 i korthet, och det gör den till den största öppna AI-modellen som hittills släppts.
Men storleken är egentligen inte poängen. Det intressanta är kombinationen: prestanda i klass med Anthropics Claude Opus 4.8, till en kostnadsnivå som uppges ligga i linje med det billigare Sonnet 5. Om det stämmer är det inte ett benchmarkresultat, det är en prislista som ställer en obehaglig fråga till alla som idag betalar för Opus.
Mixture-of-experts är inte ett nytt trick, men det är ett smart svar på ett verkligt problem: hur man bygger en stor modell utan att varje anrop kostar som en. Att bara 50 av 2 800 miljarder parametrar är aktiva per förfrågan är det som gör prissättningen möjlig. Det är samma logik som driver att modeller som GPT-4o och Mixtral blivit så kostnadseffektiva, och Moonshot AI driver den logiken till sin hittills mest extrema slutpunkt.
Att modellen är öppen är inte ett sidospår. Det betyder att du kan köra den själv, finjustera den och undvika API-beroenden helt. För den som bygger produkter där kostnaden per token faktiskt syns i P&L:en är det en relevant parameter.
Simon Willison testade modellen med sitt så kallade pelikan-riktmärke, ett test designat för att se hur modeller hanterar frågor de faktiskt inte kan svara på, och hur benägna de är att fabricera svar med självförtroende. Det är ett av de bättre sätten att mäta något som inte syns i standardbenchmarks: modellens självkännedom. Att Willison väljer det testet säger något om vad han faktiskt letar efter när en ny stor modell dyker upp.
Den bredare trenden är svår att missa. Kimi K3 är ytterligare ett datapunkt för att gapet mellan kinesiska och västerländska frontiermodeller krymper, och att det krymper snabbt. För ett år sedan var diskussionen om huruvida kinesiska modeller ens var i närheten. Nu handlar diskussionen om prissättning.
