AI:n tog kommandot

Google DeepMind har uppdaterat Gemini 2.0 Flash med förbättrad styrbarhet – vilket innebär att utvecklare lättare kan kontrollera hur modellen beter sig i sina appar och tjänster. Det är ett praktiskt fokus snarare än ett prestandahopp: tanken är att göra modellen mer pålitlig att bygga produkter med.

Google DeepMind pilottestar en ny metod för att utvärdera AI-modeller där varken den som testar eller den som granskar resultaten vet vilken modell de bedömer – samma princip som används i läkemedelsstudier. Det är ett svar på ett känt problem: att AI-benchmarks (standardiserade tester) lätt kan manipuleras eller påverkas av vem som utformar dem. Intressant nog är det AI-bolagen själva som ofta betalar för och sätter upp de tester som ska mäta deras egna produkter.

Forskare har tagit fram en metod för att automatiskt testa om AI-baserade rekryteringssystem (så kallade ATS) behandlar kandidater olika beroende på kön, ålder, bostadsort, språk eller funktionsnedsättning – utan att behöva skapa CV:n för hand. Systemet använder LLM-agenter för att generera testprofiler och mäter sedan bias med nio olika mätvärden; i ett test på 100 kandidater och fem jobbordrar klarade sig de flesta kategorier bra, men två mätvärden flaggade för gränsfall som ett enklare test skulle ha missat. Det är en påminnelse om att ett enda sammanfattande rättvisemått sällan räcker – särskilt när EU:s AI-förordning nu klassificerar rekryteringsverktyg som högrisk-AI.

Simon Willison har gjort en djupdykning i hur Claude Code Opus 5 i 'auto mode' kan manipuleras eller brytas – ett sätt att förstå modellens faktiska beteende bortom marknadsföringen. Sådana praktiska stresstester är värdefulla eftersom de avslöjar hur AI-kodverktyg faktiskt beter sig i kantfall, vilket varken produktsidor eller benchmarks brukar visa.

Googles AI-anteckningsapp Gemini Notebook kan nu hämta innehåll från böcker du köpt via Google Play Books. Den nya funktionen 'Expert Intelligence' låter dig ställa frågor om bokens innehåll och generera allt från recept till infografik och AI-poddar baserat på materialet – Google demonstrerade bland annat hur man kan skapa en receptbok utifrån Michael Pollans 'Food Rules'.

När företag driftsätter flera AI-agenter som kommunicerar med varandra växer komplexiteten exponentiellt – tio agenter skapar inte tio kopplingar utan potentiellt hundratals. Det verkliga problemet är att ingen har full bild av vilka agenter som når vilka system, och säkerhetsteam sitter tysta när de tillfrågas om exakt det. Artikeln argumenterar för att varje agent behöver en egen identitet, begränsade behörigheter och en namngiven ansvarig person – men att det ändå bara är startpunkten.

Tröskeln för att sätta upp egna AI-agenter (program som utför uppgifter självständigt) sjunker snabbt – det är inte längre bara för utvecklare. Det intressanta är att tillgängligheten nu faktiskt verkar hinna ikapp hypen, vilket sällan stämmer.

Forskare från SEI och SIWI varnar för att Sveriges AI-strategi förbiser en kritisk resurs: vatten. AI-infrastruktur – från datacenter till chipproduktion – är vattenintensiv genom hela kedjan, och det behöver planeras in från start när den digitala infrastrukturen byggs ut.

Svenska Cota Robotics har tagit in drygt 20 miljoner kronor i riskkapital för sin AI-styrda butikrobot, som redan rullar runt i två butiker. Bolaget, grundat av Teo Rizvanovic och Kildo Alias, siktar på att automatisera de mest monotona arbetsuppgifterna på butiksgolvet – tänk inventering och hyllkontroll snarare än kassan.

Nvidia redovisar en kvartalsintäkt på 96,2 miljarder dollar, en ökning med 106 procent jämfört med förra året, driven nästan helt av datacenterförsäljning (89 miljarder dollar). Det som fick aktien att lyfta var inte siffrorna i sig – utan finanschefens prognos om 70 procents tillväxt till räkenskapsåret 2028, långt över analytikernas förväntade 45 procent.

Läkare på National Hospital for Neurology and Neurosurgery i London använde i maj ett AI-verktyg för första gången under en operation – verktyget analyserade videoupptagningar i realtid när en hjärntumör opererades bort från en 48-årig man. Tack vare AI:ns vägledning kunde kirurgerna undvika känsliga områden i hjärnan, vilket räddade patientens syn. Det intressanta här är inte bara tekniken i sig, utan att ett av världens äldsta neurokirurgiska sjukhus nu tar steget från forskning till operationssal på riktigt.

En 48-årig man som höll på att förlora synen har fått sin hjärntumör bortopererad i London – i vad som beskrivs som världens första operation av sitt slag med AI-assistans. Det intressanta här är inte bara resultatet för patienten, utan att AI nu börjar ta plats inne i operationssalen på riktigt, inte bara i diagnostiken.