AI-slaget om ditt förtroende

En ny studie visar att AI-agenter som fixar buggar i kod (så kallade kodagenter) presterar sämre när koden skrivs om på ett ytligt sätt – till exempel om variabelnamn byts ut eller död kod läggs till – trots att programmet beter sig identiskt. Försämringen är inte dramatisk, upp till 6,7 procentenheter i de mest drabbade fallen, men intressant nog håller ingen modell konsekvent täten: Qwen var bland de mest stabila i ett testupplägg men mest bräcklig i ett annat. Det antyder att robustheten beror lika mycket på hur agenten är konstruerad som på vilken underliggande modell den använder.

Forskare har skapat FraudBench, ett testramverk med 150 scenarion där AI-agenter för bankkundtjänst utsätts för simulerade bedrägeriangrepp – som att manipulera identitet eller bygga upp förtroende stegvis över en konversation. I ett preliminärt test klarade fyra olika agenter bara 49–65% av attackerna, med penningmulor och egenbedrägeri som de vanligaste svagheterna. Det intressanta är att agenterna inte bara svarar på frågor utan faktiskt kan ändra kontouppgifter och flytta pengar, vilket gör säkerhetsluckor betydligt mer konkreta än i vanliga chatbotar.

Hugging Face har publicerat LFM2.5 Q4_0-checkpoints, komprimerade versioner av språkmodeller skapade via en teknik kallad kvantiseringsmedveten destillation – vilket innebär att modellerna tränas specifikt för att hålla hög kvalitet även när de krymps ner till 4-bitars precision. Det gör dem lättare att köra lokalt på vanlig hårdvara utan att prestandan försämras lika mycket som vid traditionell efterhandskomprimering. Intressant nog sker optimeringen redan under träningen, inte som ett separat steg efteråt.

Trots att AI nu finns i nästan alla digitala tjänster växer konsumenternas skepsis snarare än minskar – ett problem Silicon Valley inte räknade med. Utbredning och acceptans visar sig alltså vara två helt olika saker, vilket ställer till det för bolag som satsat allt på att volymen själv skulle vinna folk.

Forskare har utvecklat TestifAI, ett ramverk för att testa hur stabila AI-modeller är när de utsätts för kombinationer av störningar – till exempel suddig bild, hög ljusstyrka och zoom samtidigt. Tricket är att träna en hjälpmodell på tester med färre störningskombinationer och sedan förutsäga hur modellen beter sig vid fler, vilket minskar antalet nödvändiga testkörningar med 60–80% med ett felmarginal under 7%. Det är praktiskt relevant för säkerhetskritiska system som självkörande bilar, där uttömmande testning annars skulle kräva exponentiellt många körningar.

Brittiska regeringen, Google, NATS och två toppuniversitet inleder 'Operation Blue Skies' – ett 30 månader långt projekt där AI ska hjälpa flygplan att undvika rutter som skapar kondensstrimmor (de vita spår som bildas bakom flygplan på hög höjd). Enligt Google orsakar just dessa strimmor ungefär en tredjedel av flygets totala klimatpåverkan, vilket gör dem till ett förvånansvärt stort problem som fått relativt lite uppmärksamhet.

AI-startupen Cursor – grundad av svenska utvecklare – lanserar kodplattformen Origin som en direkt utmanare till GitHub, precis när GitHub genomgår en turbulent period. Tajmingen är knappast slumpmässig: att ta marknadsandelar när en etablerad aktör vajar är klassisk startup-taktik.

Nvidia tar på sig rollen som mellanhand i Norden och försöker koppla ihop företag som äger deras grafikprocessorer med datacenteroperatörer som har ledig kapacitet i Sverige och övriga Norden. Det är ett tydligt tecken på att bolaget vill styra inte bara hårdvaruförsäljningen utan även hur AI-infrastrukturen byggs upp globalt.

Sverige pekas ut som en global AI-hotspot tack vare snabbväxande AI-bolag, enligt McKinseys Sverigechef Sebastian Sjöberg. Men bilden är inte helt ljus: Kina och USA ökar gapet, och McKinsey har nu samlat Sveriges tillväxtelit för att identifiera vad landet kan lära av konkurrenterna.

AI-infrastrukturbolaget Nebius föll 10 procent på Wall Street efter att ha aviserat en kapitalresning på 42,8 miljarder kronor via konvertibla lån (lån som kan omvandlas till aktier). Det gör extra ont att notera att bolaget redan finns på blankningslistan hos Michael Burry – mannen bakom 'The Big Short' – vilket signalerar att smarta pengar satsar på fortsatt fall.

Daniel Kjellén och Fredrik Hedberg – grundarna bakom betalningsbolaget Tink – har investerat 30 miljoner kronor i sin nya AI-startup Freda, avslöjar Breakit. Bolaget verkar i det tysta, och det är ännu oklart vad Freda egentligen bygger.

Vibe-kodning – där vem som helst kan skapa appar genom att chatta med AI-verktyg – sprider sig snabbt i företagsvärlden, men säkerhetsexperter på Gartner och Forrester varnar nu för att metoden skapar allvarliga säkerhetshål. Det vanligaste problemet är att hårdkodade hemligheter (lösenord och API-nycklar inbakade direkt i koden) oavsiktligt laddas upp till GitHub och blir publikt tillgängliga. Enligt en färsk studie från Massey University är hastighet motivet bakom 62 procent av all vibe-kodning – vilket förklarar varför säkerhetskontroller ofta hoppas över.

Simon Willison utforskar smolmachines/smolvm – ett verktyg för att köra opålitlig Python- och JavaScript-kod isolerat i en sandlåda (en kontrollerad miljö där kod inte kan påverka resten av systemet). Det är ett praktiskt sätt att låta AI-agenter exekvera kod utan att riskera säkerheten på värddatorn.

Priserna på datorminne har stigit med 500% på tolv månader, och tillgången på hårdvara har enligt rapporten backat till nivåer vi senast såg 2007 – Moores lag (principen att datorkraft fördubblas ungefär vart annat år) verkar alltså gå baklänges just nu. Det är AI-träningens enorma minneshunger som driver bristen, och det börjar bli en konkret flaskhals för bolag som vill bygga eller skala upp modeller.