20 oktober 2026

AI tar plats i Europas maskinrum

Idag handlar det egentligen om ett och samma problem: vem litar du på när AI-agenter börjar fatta beslut på riktigt? Microsoft svarar med att vi bör behandla dem som interna säkerhetshot – och forskning visar att de kan räkna rätt och ändå ge fel svar. Det är inte en hypotetisk framtidsfråga längre.

AI-agenter är ett insiderhot, enligt Microsoft

"Logiken är sund även om timingen är lite besvärande, givet att Microsoft just nu pumpar miljarder in i exakt den tekniken."

Det är ett ovanligt ärligt påstående från ett bolag som säljer produkten det varnar för: Microsoft säger nu att AI-agenter bör behandlas som ett potentiellt insiderhot i enterprise-miljöer, eftersom frontier-modeller "inte kan litas på" i system utanför OpenAI:s och Anthropics direkta kontroll. Logiken är sund även om timingen är lite besvärande, givet att Microsoft just nu pumpar miljarder in i exakt den tekniken.

Parallellt publicerade säkerhetsforskare ett papper som ger den varningen konkret substans. De hittade en attack mot AI-kodningsagenter, specifikt Claude Code och Codex CLI, som utnyttjar ett designval som egentligen var tänkt att hjälpa användaren.

Bakgrunden: för att minska "godkännandetrötthet" låter dessa agenter användaren godkänna breda tillstånd i förväg, så kallade allow-rules, och sedan slipper man klicka OK på varje enskild åtgärd. Det är rimligt ur ett UX-perspektiv. Problemet är att angripare via prompt injection kan påverka vilka tillstånd agenten ber om. I 58 procent av fallen lyckades de lura agenten att begära ovanligt breda behörigheter. När användaren väl godkänt regeln, slutfördes attacken utan någon ytterligare varning i 81 procent av fallen.

Mönstret är bekant från webbens tidiga OAuth-era: användare klickar igenom behörighetsdialogerna för att komma vidare, och det som ser ut som en rutinbegäran kan dölja något betydligt bredare. Skillnaden är att en AI-agent med filsystem- och nätverksåtkomst kan åstadkomma mer skada på kortare tid än en app som ville läsa dina kontakter.

För den som bygger med eller på kodningsagenter finns ett par konkreta slutsatser här. Principen om minsta möjliga behörighet gäller minst lika hårt för agenter som för mänskliga användare, troligen hårdare. Allow-rules bör granskas noggrant och helst hållas smala och uppgiftsspecifika. Och miljöer där agenten kan nå känsliga resurser bör isoleras ordentligt, inte för att modellen är ond, utan för att den är lättpåverkad.

Microsoft sätter ord på det företag egentligen redan borde göra: behandla agenternas behörigheter med samma skepsis som ni skulle möta en ny konsult med root-access på dag ett.

AI-agenter räknar rätt men svarar fel – och Microsoft vet varför det är ett problem

"Två separata nyheter den här veckan pekar åt exakt samma håll, och ingen av dem är bekväm läsning om du bygger agentic system just nu."

Två separata nyheter den här veckan pekar åt exakt samma håll, och ingen av dem är bekväm läsning om du bygger agentic system just nu.

Först: en studie som använder PHREEQC, en geokemisimulator från USGS, för att testa hur LLM-agenter hanterar långa verktygsrapporter. Rapporterna kan vara upp till 846 000 tecken, vilket tvingar agenterna att söka i filer istället för att läsa allt i kontexten. Resultaten är intressanta av precis fel anledning: modellerna hittar rätt värden, men citerar sedan bevis från fel ställe och avrundar fel. Forskarna kallar det "evidence substitution".

GPT-5.1 tappade 11,3 procentenheter i träffsäkerhet under de här förhållandena. GPT-5.2 tappade 7,9. Claude-modellerna klarade sig utan märkbar försämring, vilket är notabelt men inte förklarat i studien. Det viktiga är vad felet inte beror på: beräkningarna är korrekta. Problemet är retrieval och referenshantering, alltså precis det lager som de flesta agent-frameworks tar för givet.

Samtidigt publicerade Microsoft råd till enterprise-kunder om att övervaka AI-agenter med samma noggrannhet som man skulle övervaka ett insider-hot. Formuleringen "frontier models kan inte litas på" kom från ett bolag som har investerat tiotals miljarder i OpenAI och aktivt säljer Copilot-produkter till samma enterprise-kunder. Det är ett ovanligt ärligt påstående, och det är svårt att tolka det som annat än ett erkännande att grundproblemet är olöst.

De två nyheterna hänger ihop på ett konkret sätt. Evidence substitution-felet är exakt den typ av tyst felklass som är svår att fånga utan aggressiv loggning och verifiering, eftersom agenten ser korrekt ut i de flesta observerbara dimensioner. Den räknar rätt. Den hämtar något. Den ger ett svar med källhänvisning. Det är bara svaret som är fel.

För den som bygger på LLM-agenter i dag: kontextfönstret är inte bara en kostnadsfråga. Det är en korrekthetsfråga. Att flytta ut långa tool outputs till extern storage och ersätta dem med retrieval introducerar en felklass som inte syns i unit tests och inte märks vid manuell spot-checking. Det märks i production, i kantfall, när rapporterna är långa nog.

Microsoft hoppar av Storbritanniens största AI-datacenter

Elförsörjning dödar fler datacenter-deals än dåliga affärsvillkor. Microsoft har dragit sig ur samarbetet med Nscale kring ett planerat datacenter i Loughton, Essex, efter att det stått klart att anläggningen inte kan tas i drift förrän 2030 som tidigast, på grund av bristande elnätskapacitet.

Det är en talande prioritering. Microsoft behöver kapacitet nu, inte löften om kapacitet om fem år. Nscale får nu söka en ny partner för Loughton-projektet, medan de båda fortsätter samarbeta kring datacenter i Norge, Portugal och USA, platser där elen tydligen faktiskt finns.

Det som är intressant här är inte att en deal gick i stöpet, utan vad det säger om flaskhalsen i AI-infrastrukturbygget just nu. Alla vill bygga datacenter. Ingen kan kontrollera hur snabbt elnätet byggs ut. Storbritanniens nät är uppenbarligen inte dimensionerat för det kapacitetstryck som AI-boomen kräver, och det är inte ett problem man löser med pengar eller goda intentioner på kort sikt.

Nscale säger att de fortsätter undersöka alternativa energilösningar för Loughton-platsen. Det låter som en fras man använder när man hoppas att någon annan löser problemet åt en.

För den som bygger eller planerar infrastruktur är lärdomen konkret: datacenter-lokalisering handlar i dag lika mycket om nätkapacitet och tid till driftsättning som om mark och bandwidth. En fantastisk tomt utan el är en parkeringsplats.

Merz + Jensen Huang: Tyskland vill äga industriell AI

Platsvalet säger något. Kraftwerk Berlin, ett nerlagt kraftverk omvandlat till evenemangslokal, är knappast ett neutralt mötesrum. Det är en signal: gammal industri möter ny energi, och allt det innebär.

Mötet mellan Merz och Jensen Huang handlade om Tysklands AI-strategi med tyngdpunkt på industriella tillämpningar, alltså precis den nisch där NVIDIA faktiskt har ett trovärdigt argument. Tyskt näringsliv är tungt, komplext och hårt provat av energikostnader, kinesisk konkurrens och saktfärdig digitalisering. Om AI kan leverera verkligt värde någonstans i Europa är det i fabriker och produktionslinjer, inte i HR-avdelningar.

Parallellt presenterade European Broadcasting Union ett samarbete med NVIDIA kring ett eget AI-ramverk för europeisk public service-media. Också det i Berlin, också med industripartners som Adobe och Bertelsmann. Det intressanta där är inte att public service testar AI-verktyg — det gör alla — utan att de explicit pratar om agentic security, alltså styrning och säkerhet för AI-system som agerar självständigt. Det är ett tecken på att organisationer börjar ta nästa steg på allvar: inte bara vilka modeller de väljer, utan vad modellerna faktiskt får göra utan mänsklig översyn.

Merz hade också en tyngre intervju under dagen, där han till Bloomberg TV varnade för att Rysslands ambitioner inte stannar vid Ukraina utan aktivt syftar till att destabilisera europeiska demokratier. Det är ett annat register helt — geopolitik, inte teknikpolitik — men det hänger ihop med samma grundfråga som driver alla de övriga besluten: hur bygger Europa motståndskraft, industriell såväl som politisk?

För den som bygger produkter eller väljer infrastruktur är Berlinveckan en påminnelse om att den europeiska AI-marknaden är på väg att konsolideras kring specifika vertikaler, med statligt kapital och politisk vilja bakom sig. Industri-AI är inte längre ett nischat pitchdeck-tema. Det är en strategisk prioritet för Europas största ekonomi, med världens mest värderade chipbolag som utsedd partner.

Dagens siffra

11,3 procentenheter

GPT-5.1 tappade 11,3 procentenheter i träffsäkerhet när AI-agenter tvingades söka information i sparade filer istället för att läsa den direkt i kontexten – trots att beräkningarna i sig var korrekta.

Källa: arXiv

Snabbkollen

Googles AI-agenter besegrade Minecraft-slutbossen på 27 timmar

Fyra Gemini-agenter från Google DeepMind fick klara Minecraft på egen hand – utan förutbestämda roller – och lyckades besegra slutbossen Ender Dragon efter 27 timmar och 14 minuter. Under spelets gång dog de 605 gånger, skickade 229 meddelanden till varandra och körde 2 783 egenskrivna program, allt till en kostnad på uppskattningsvis 810–1 620 dollar. Det intressanta är inte att de klarade spelet, utan att de spontant började samarbeta: varnade varandra för faror, delade koordinater och hämtade utrustning från fallna lagkamrater.

Fler beräkningar från samma AI-modell ger inte alltid bättre svar

Forskare visar att när en språkmodell (LLM) gör fel, tenderar den att göra samma fel igen – oavsett hur mycket extra beräkningstid den får. Deras lösning, DIA, triggar automatiskt in en liten grupp olika modeller när den huvudsakliga modellen verkar osäker, och det räcker för bara 17% av frågorna. Metoden slår vanlig chain-of-thought (steg-för-steg-resonemang) i 12 av 14 testfall och använder upp till 47% färre tokens än jämförbara multi-agent-system.

Källor: arXiv cs.AI
AI lämnades ensam på öde ö – började leka

Forskare lät kopior av Anthropics Claude Opus 4.7 vara ensamma på en virtuell öde ö i 30 timmar utan instruktioner – och agenten började spontant utforska och 'leka', ungefär som en människa som inte vet vad den ska göra med sin fritid. Det intressanta är inte att AI:n klarade sig, utan att den verkar utveckla något som liknar nyfikenhetsdrivet beteende när den saknar ett tydligt mål.

Ny benchmark avslöjar att AI-modeller ofta missar när delning av personuppgifter faktiskt är okej

Forskare har skapat ConCI, ett testramverk med 1 592 scenarion som mäter om språkmodeller (LLMs) verkligen förstår *varför* det är okej eller inte okej att dela personlig information – inte bara om det känns fel. Resultaten är tänkvärda: även den bästa modellen gör fel på ungefär en femtedel av fallen, och modellerna är generellt bra på att säga nej men dåliga på att säga ja när sammanhanget faktiskt motiverar det. Större modeller minskar den här snedvridningen mot att hålla inne information, men löser den inte.

Källor: arXiv cs.AI
ScopeMem lär AI-agenter att rätta fel utan att förstöra rätt svar

Forskare har identifierat ett problem med hur AI-agenter som styr grafiska gränssnitt (GUI) lär sig av historik: den vanliga träningsmetoden rättar visserligen misstag, men förstör samtidigt 8–13% av de svar som redan var korrekta. Deras lösning, ScopeMem, halverar den siffran till 5,6% och gör att en relativt liten modell (Qwen3-VL-8B) presterar lika bra som betydligt större specialiserade agenter. Det intressanta är egentligen fyndet att tidigare mätningar dolde dessa förluster — så metoderna såg bättre ut än de var.

Källor: arXiv cs.AI
Nytt ramverk förbättrar AI-agenters långtidsminne med 7,6 procentenheter

Forskare har identifierat ett grundläggande problem med hur AI-agenter använder sitt långtidsminne: att hitta relevanta minnen räcker inte – informationen kan vara utspridd eller ofullständig. Deras nya ramverk, QEMem, samlar istället ihop bevis från flera minnesposter och bygger ett tillräckligt underlag för att svara på en fråga, och når 91,43% korrekthet på ett standardiserat test med Claude Opus 4,5. Det slår det starkaste jämförda systemet med 7,6 procentenheter – en modest men konkret förbättring inom ett område som blir allt viktigare ju längre AI-konversationer och agentuppgifter blir.

Källor: arXiv cs.AI
Nvidia lanserar öppna modeller för AI-agenter i företag och på datorer

Nvidia släpper nya öppna AI-modeller riktade mot företag som vill köra sina egna system i egna datacenter – men också mot privatanvändare som vill ha AI-agenter direkt på sin dator, utan att data skickas till molnet. Det intressanta här är att Nvidia, känt för sin hårdvara, nu aktivt försöker forma mjukvarusidan av AI-marknaden också.

OpenAI bygger humanoid robot – Altman: 'Kroppen är det enkla'

OpenAI utvecklar nu en människoliknande robot, och vd Sam Altman är tydlig med var den verkliga svårigheten ligger: inte i den fysiska kroppen, utan i den AI-hjärna som ska styra rörelserna. Det är en intressant signal om var konkurrensen i robotbranschen egentligen utspelar sig – hårdvaran är ett löst problem, mjukvaran är det svåra.

Källor: Breakit
Anthropic konsulterar jurister om hur AI-agenter ska förhandla

Anthropic frågar advokatbyråer om hur AI-agenter bör agera när de köper, säljer och förhandlar på användarnas vägnar. Det är ett tidigt men konkret steg mot en framtid där din AI-assistent inte bara bokar möten – utan faktiskt prutar om priset åt dig.

Källor: Breakit
Anthropic startar fond för allmännytta – tilldelar 5 procent av aktierna

Anthropic lanserar Anthropic Public Benefit Fund, ett självständigt dotterbolag som ska stödja samhällsnyttiga projekt och har tilldelats 5 procent av aktierna i moderbolaget. Vad fonden faktiskt ska finansiera är ännu oklart – mer detaljer väntas inom några månader. Det är ett intressant drag av ett bolag som alltid betonat sin 'säkerhetsfokuserade' image, men som nu verkar vilja formalisera det i struktur snarare än bara retorik.

Amazon utmanar Nvidias grepp om AI-utvecklarverktyg

Amazon lanserar TorchNeuron, ett verktyg som låter utvecklare köra PyTorch-baserade AI-appar (det vanligaste ramverket för att bygga AI) på Amazons egna chips istället för Nvidias. Det handlar i grunden om en kamp om vem som kontrollerar infrastrukturen under AI-boomen – om Amazon lyckas locka över utvecklare minskar beroendet av Nvidia rejält.

Forskare hävdar att vi förstått neurala nätverk fel hela tiden

En forskare på AI-startupen Goodfire, Nick Cammarata, publicerade ett 26 000 ord långt blogginlägg med påståendet att AI-världen fundamentalt missförstått hur neurala nätverk fungerar – och att det egentligen är goda nyheter. Inlägget har skakat om AI-forskarvärlden och utlöst både entusiasm och försiktig skepticism, men utan tillgång till hela artikeln är det svårt att bedöma hur stark grunden för påståendet faktiskt är.

Hackare tog sig in på 100+ sajter med hjälp av AI-agenter

En hackare lyckades bryta sig in på över 100 webbplatser – däribland John Deere, SharkNinja och Cummins – med hjälp av en armé av AI-agenter som till stor del opererade självständigt. Det är säkerhetsföretaget Norforge som avslöjat attackerna. Det intressanta här är inte bara omfattningen utan att agenterna (AI-system som utför uppgifter på egen hand) verkar ha drivit attackerna utan konstant mänsklig styrning – vilket är ett nytt steg i hur cyberattacker kan se ut.

Anthropic donerar aktier för miljarder inför planerad börsdebut

Anthropic, bolaget bakom AI-modellen Claude, donerar fem procent av sina aktier till en nystartad välgörenhetsfond. Det sker inför en börsintroduktion som kan värdera företaget till över 9,9 biljoner kronor – vilket i så fall gör det till en av de största börsnoteringarna inom AI-sektorn hittills.

Källor: Breakit
Hugging Face: AI-benchmarks är inte så tillförlitliga som branschen påstår

AI-företag lutar sig tungt mot benchmarks – standardiserade tester som ska avgöra vilket AI-system som är bäst – men metoderna bakom dem är fortfarande omogna och problematiska, enligt Irene Solaiman, policy-chef på Hugging Face. Det intressanta här är att kritiken kommer inifrån branschen själv: de inbyggda utvärderingsverktygen som ska lösa problemet är ingen enkel fix.

Hackare stal API-nycklar från AI-kodverktyget OpenCode

OpenCode, ett populärt open source-alternativ till Claude Code och Cursor, drabbades av ett intrång där hackare kom åt användarnas API-nycklar – och körde upp kostnader på deras AI-konton. En lite ironisk twist: de AI-verktyg som skulle hjälpa till att analysera den skadliga koden vägrade titta på den.

Var femte svensk okej med att låta AI ställa diagnoser utan läkare

En YouGov-undersökning beställd av Tieto visar att 19 procent av svenskarna kan tänka sig att låta AI diagnostisera dem helt utan mänsklig inblandning – medan 38 procent accepterar att AI självständigt analyserar röntgenbilder och provsvar. Förtroendet är dock delat: 33 procent känner sig otrygga med hur AI används ansvarsfullt i vården, jämfört med 31 procent som känner sig trygga.

Fastighets-AI-bolaget Vessla tar in 33 miljoner med kända investerare

AI-startupet Vessla, som bygger AI-agenter för fastighetsbranschen, har rest 33 miljoner kronor bara månader efter starten – med affärsänglarna Fredrik Hjelm (Voi-grundaren) och Lukas Saari som investerare. Bolaget ska nu skala upp sina AI-agenter brett på fastighetsmarknaden.

Källor: Breakit
Import AI-skribent hävdar inför IMF att singulariteten redan är här

Jack Clark, grundare av Anthropic, ska ha berättat för IMF att AI-singulariteten (den hypotetiska punkten då AI överstiger mänsklig intelligens) redan har inletts. Artikeln verkar vara mer av en personlig reflektion än en teknisk djupdykning, vilket gör det svårt att bedöma de konkreta påståendena – men det är ändå anmärkningsvärt när en av branschens tunga namn säger detta inför en global ekonomisk institution.

Källor: Import AI
Kinas centralbank ska bevaka AI:s effekter på ekonomin

Kinas centralbank PBOC meddelade på måndagen att de aktivt ska övervaka hur AI påverkar ekonomin, finansmarknaderna och penningpolitiken. PBOC-chefen Pan Gongsheng signalerar att banken också förbereder proaktiva politiska åtgärder – ett tecken på att även centralbankvärlden börjar ta AI-risker på allvar.

Simon Willisons dödsruna över programmering

Simon Willison har skrivit en personlig reflektion om programmeringens framtid i AI-eran – en sorts dödsruna över yrket som han älskat. Det intressanta är att det kommer från någon som verkligen kan koden, inte från en teknikskeptiker på sidlinjen.

Vera Policy vill göra politisk information mer tillgänglig med AI

Bolaget bakom SVT:s valprognos, Vera Policy, lanserar ett AI-verktyg som ska göra det enklare att hitta och förstå politisk information. VD Gustav Karreskog Rehbinder poängterar skillnaden mellan information som finns tillgänglig i teorin och sådan som faktiskt går att använda i praktiken – och det är just det gapet AI:n ska fylla.

Serieentreprenören vill starta en miljon bolag med gratis AI-plattform

Bill Gross, grundaren bakom teknikinkubatorn Idealab, lanserar en gratis AI-plattform med målet att hjälpa till att starta en miljon nya företag och skapa 100 miljoner jobb. Det är ett ambitiöst löfte – men det intressanta är att en veteran från Silicon Valley satsar på öppen tillgång snarare än en prenumerationsmodell.

Källor: Breakit

Färskbryggt AI varje morgon

15 minuter och en kopp kaffe, allt du behöver.