Sigil Wen lanserar AI-assistent som körs helt lokalt – ingen data lämnar din dator
Sigil Wen, som beskrivs som ett AI-underbarn, har släppt en betaversion av sin AI-assistent Underdog. Det som skiljer den från mängden är att modellen körs helt på användarens egen enhet – all bearbetning sker lokalt utan att data skickas till molnet. En lösning för den som värnar om sin integritet, men ställer förstås krav på att din dator har tillräcklig kapacitet.
Djupdykning
Sigil Wen är inte vem som helst – vi pratar om ett tonårsgeni som redan innan Underdog väckt uppmärksamhet i AI-kretsar för sitt tekniska kunnande. Det Underdog gör är att köra hela språkmodellen lokalt, alltså direkt på din dator eller telefon istället för att skicka dina frågor till en server någonstans i Virginia. Det låter som en detalj, men det är egentligen ett ideologiskt ställningstagande mitt i en bransch som byggt hela sin affärsmodell på att samla in användardata. De flesta diskussioner om AI-integritet fastnar vid frågan "vad gör företagen med din data?" – men missar att problemet börjar redan i det ögonblick du trycker på enter och din text lämnar enheten. Den verkliga utmaningen med lokal AI har alltid varit prestanda – kraftfulla modeller kräver enorma resurser, och de flesta konsumentenheter har inte klarat det. Om Underdog lyckas leverera något användbart inom de begränsningarna är det mer tekniskt imponerande än själva integritetsaspekten, och det är förmodligen där det verkliga testet väntar när betaperioden tar slut.