Ny språkmodell kör upp till 3,2 gånger snabbare slutledning

LFM2.5-DSpark är en ny modell från Liquid AI som kombinerar två arkitekturella idéer som normalt lever separata liv: hybridmodeller (som blandar transformer-lager med andra typer av neurala nät) och distillation (där en stor modell lär en liten att tänka som den). Resultatet är en modell som körs upp till 3,2 gånger snabbare vid inferens – det vill säga när modellen faktiskt används för att svara på frågor – utan att prestandan rasar proportionerligt. Det de flesta missar i snabbhetsrubriken är att det egentliga värdet inte är hastigheten i sig, utan vad den gör möjlig: att köra kraftfulla modeller på hårdvara som inte kostar som ett raketprogram. Molnkostnaderna för AI-inferens är just nu en av de största bromsarna för att faktiskt bygga produkter i stor skala, så en 3x-förbättring där handlar om riktiga dollar, inte benchmarkpoäng. Liquid AI har länge positionerat sig som motpolen till den rena transformer-världen som OpenAI och Google dominerar, och DSpark är deras tydligaste argument hittills att hybridarkitekturer inte bara är akademiska experiment. Om den här trenden håller i sig kommer vi troligen se en splittring i branschen – inte mellan "stora" och "små" modeller, utan mellan modeller optimerade för tankedjup och modeller optimerade för driftseffektivitet.