Ny liten AI-modell kan köra lokalt på vanliga enheter
Liquid AI har släppt LFM2.5-2.6B, en kompakt språkmodell (AI-modell) med 2,6 miljarder parametrar som är optimerad för att köra AI-agenter (självständiga AI-program) direkt på lokala enheter – utan molnet. Det intressanta är att modellen är liten nog för att fungera på vanlig hårdvara men ändå kapabel att hantera agentuppgifter, vilket gör lokal AI-körning mer tillgänglig.
Djupdykning
LFM2.5-2.6B är Liquid AIs senaste språkmodell designad för att köras lokalt på enheter – alltså direkt på din telefon, laptop eller inbyggda hårdvara utan att skicka data till molnet. Modellens storlek på 2,6 miljarder parametrar är genomtänkt: tillräckligt kraftfull för att hantera komplexa uppgifter, men liten nog att faktiskt fungera utan GPU-servrar som kostar en förmögenhet. Det som skiljer Liquid AI från mängden är deras arkitektur baserad på "Liquid Foundation Models" – ett alternativ till traditionella transformers (den teknik som driver ChatGPT) som är mer effektiv på sekventiell data och har lägre minneskrav. Hela poängen med "agents everywhere" är att vi rör oss mot en värld där AI-agenter – program som självständigt utför uppgifter åt dig – inte längre behöver en internetuppkoppling eller ett molnabonnemang för att existera. Det de flesta missar i snacket om lokala modeller är inte prestandan, det är affärsmodellen. När AI körs på din enhet försvinner den återkommande intäktsströmmen för stora aktörer, vilket öppnar för ett helt annat ekosystem av mjukvara – engångsköp, öppen källkod, företagslicenser. Det påminner faktiskt om skiftet från webbapplikationer tillbaka till installerade program, fast med intelligent beteende inbakat.