AI tar över – med eller utan tillstånd

Forskare varnar för en ny typ av AI-system de kallar 'kognitiva digitala tvillingar' (CDT) – modeller som kontinuerligt uppdateras för att simulera en specifik persons tankesätt och fatta beslut i dennes ställe. Problemet är att befintlig AI-reglering, som EU:s AI-förordning, bara täcker datanvändning och automatiserade beslut – inte själva representationen av en persons kognition, vilket är det verkligt känsliga steget. Artikeln föreslår ett ramverk med fem principer (auktoritet, autonomi, tillgång, ansvarsskyldighet och tillgänglighet) och påpekar risker som 'skuggtvillingar' – CDT-versioner av dig som skapas utan din vetskap.

Anthropic lanserar 'Claude Tag' – en alltid aktiv AI-assistent inbyggd direkt i Slack som kan taggas in i konversationer. Det intressanta är inte produktivitetsvinkeln utan affärsstrategin: genom att lyssna på Slack-trafik samlar Claude gradvis upp företagets interna kunskap, processer och kultur – vilket gör det svårare att byta ut tjänsten senare.

Forskare har tagit fram ett nytt sätt att styra AI-agenter som skriver kod – istället för fasta regler använder systemet bayesiansk statistik (en metod för att uppdatera sannolikheter löpande) för att dynamiskt avgöra när det är värt att köra dyra verifieringsverktyg. Testat på sex olika AI-modeller och nio kodningsbenchmarks visar metoden störst nytta när verifiering är kostsam och de enklare diagnostikverktygen ger viss men inte perfekt information. Som bonus ger systemet ett tolkningsbart konfidenspoäng för kodens korrekthet, vilket slår befintliga metoder för att mäta osäkerhet.

Forskare har byggt FairTutor, ett system som dirigerar frågor smart mellan billiga och dyra AI-modeller för att ge elever med begränsad budget nästan lika bra handledning som betalversioner. I tester uppnådde systemet 97,1% av premiumkvaliteten samtidigt som kostnaderna sänktes med 71,6%. Den verkliga poängen här är inte tekniken i sig – utan att AI-verktyg redan skapar nya klasskillnader i utbildning, och att det faktiskt går att motverka det utan att offra kvaliteten.

Forskare presenterar CompressKV, en teknik som drastiskt minskar minnesanvändningen för KV-cache (det arbetsminne som stora språkmodeller behöver för att hantera långa texter). Resultaten är anmärkningsvärda: modellen behåller över 97% av full prestanda med bara 3% av det normala minnesutrymmet på fråge- och svaruppgifter. Det intressanta här är inte bara siffrorna utan insikten bakom dem – att olika delar av ett neuralt nätverk gör olika saker, och att man kan vara mycket mer selektiv om man förstår vilka delar som faktiskt spelar roll.

Fika Jobs från Stockholm har säkrat 4 miljoner dollar för att bygga en rekryteringsplattform där AI-agenter håller videointervjuer med kandidater – tänk LinkedIn möter TikTok, fast med en bot som ställer frågorna. Det intressanta är att det är en svensk startup som försöker lösa ett globalt problem som faktiskt irriterar folk: tidskrävande rekryteringsprocesser.

Immunologen Derya Unutmaz använde GPT-5 Pro för att knäcka ett tre år gammalt vetenskapligt problem kring hur T-celler (en typ av immunceller) beter sig – något hans eget team inte lyckats med. Genombrotten kan få betydelse för forskning om cancer och autoimmuna sjukdomar, och är ett konkret exempel på att AI börjar göra sig nyttig i verklig laboratorievetenskap snarare än bara i chattfönster.

Hugging Face har publicerat CUGA, ett enkelt ramverk (ett slags grundstruktur för kod) med ett tjugotal fungerande exempelappar för att bygga agentiska AI-system – alltså AI som kan utföra flerstegiga uppgifter på egen hand. Det intressanta här är fokuset på lättvikt: tanken är att du ska kunna komma igång utan att drunkna i infrastruktur. Praktiska exempel brukar vara det snabbaste sättet att faktiskt lära sig bygga den här typen av system.

FN:s generalsekreterare António Guterres lanserar initiativet AI Environmental Transparency Initiative och kräver att AI-företag öppet redovisar sin miljöpåverkan. Siffrorna är talande: år 2030 kan datacenter förbruka mer el än alla länder utom fem, och deras vattenanvändning kan motsvara hela befolkningens grundbehov i Afrika söder om Sahara under ett år. Guterres vill också att datacenter ska drivas på förnybar energi senast 2030 – en ambition som krockar med att flera bolag just nu satsar på naturgas och kärnkraft.

NVIDIA och AWS fördjupar sitt samarbete för att göra det enklare för företag att köra AI i stor skala – med fokus på snabb inferens (när AI-modeller används i realtid), vektorsökning och bättre pris-prestanda på GPU-hårdvara. Samarbetet berör bland annat Amazon OpenSearch och EC2. Det intressanta är att fokus ligger på de praktiska flaskhalsarna som faktiskt stoppar företag från att gå från AI-experiment till produktion.

OpenAI engagerar sig i arbetet med att bygga delade globala standarder för avancerad AI, bland annat genom stöd till Appia Foundation – en organisation som fokuserar på utvärderingsramverk och säkerhetspraxis. Det intressanta här är inte nödvändigtvis vad OpenAI gör tekniskt, utan att de aktivt försöker forma spelreglerna för hela branschen innan regulatorer hinner göra det.

Indiska marknadsföringsplattformen MoEngage har gjort ett helkontant förvärv för att få tillgång till teknik som tilldelar varje enskild kund en egen AI-agent – tanken är att automatisera och personalisera kundkommunikation i stor skala. Det är ett tydligt tecken på att 'agentic AI' (AI som självständigt utför uppgifter) nu börjar ta sig in på allvar i marknadsföringsbranschen.

Microsoft har åtgärdat tre allvarliga säkerhetsproblem – samlade under namnet Autojack – i Autogen Studio, verktyget för att bygga AI-agenter. Sårbarheterna kunde utnyttjas genom att lura agenterna att besöka skadliga webbplatser, men är nu fixade i version 0.4.2.2. Bara användare som laddat ner programmet via GitHub har varit i riskzonen – PyPI-versionen var inte påverkad.

Den första vågen av företags-AI handlade om att få tillgång till modellerna – nu skiftar fokus mot specialiserade AI-agenter (system av modeller som kan resonera och använda verktyg) som faktiskt passar in i hur verksamheter fungerar i praktiken. Det intressanta är att frågan inte längre är 'kan vi använda AI?' utan 'hur bygger vi AI vi faktiskt litar på i skarpa processer?'

I Indien, där 60% av världens vilda asiatiska elefanter lever, har konflikter mellan människor och djur krävt runt 3 000 människoliv. Nu används AI-baserade varningssystem som analyserar rörelsemönster och skickar larm till bybor innan elefanterna hinner nå bebyggelse. Det är ett konkret exempel på hur AI löser verkliga säkerhetsproblem – långt från Silicon Valleys vanliga tillämpningar.

Höstens val blir det första svenska valet efter att AI-verktyg som ChatGPT och Gemini slagit igenom på bred front – och nu undersöker Breakit vilka partier som syns bäst när väljare söker råd via AI. Ett parti sticker ut som särskilt väl förberett, medan andra riskerar att försvinna i bruset när AI-modellerna sammanfattar politiken.