LFM2.5-VL-3B: Ny kompakt modell för bildanalys på enheten
Liquid AI har släppt LFM2.5-VL-3B, en liten multimodal modell (3 miljarder parametrar) som kan analysera bilder direkt på enheten – alltså utan att skicka data till molnet. Det intressanta är att den är byggd för kant-hårdvara (edge devices) som telefoner och inbyggda system, vilket gör lokal bildtolkning mer tillgänglig utan stora resurser.
Djupdykning
Liquid AI har släppt LFM2.5-VL-3B, en multimodal modell byggd för att köras direkt på kantenheter – det vill säga hårdvara som mobiltelefoner, industrirobotar eller medicinska sensorer, snarare än i ett datacenter någonstans i molnet. Modellen är 3 miljarder parametrar stor, vilket låter som mycket men är pyttelitet i AI-sammanhang – GPT-4 beräknas ligga på flera hundra miljarder. Det som gör Liquid AI:s approach särskild är att de inte använder traditionella transformers utan sin egna "Liquid Foundation Model"-arkitektur, som är designad för att vara mer beräkningseffektiv utan att offra prestanda. Det de flesta missar i diskussionen om edge-AI är att det egentliga värdet inte är hastigheten i sig – det är att data aldrig behöver lämna enheten, vilket är avgörande i allt från sjukhus till fabriker där integritet och latens är hårdvaluta. En 3B-modell som faktiskt kan se och förstå bilder lokalt på en industrirobot förändrar vad som är möjligt utan internetuppkoppling eller dyra molntjänster.