Google lanserar AI-agenter som handlar åt dig

Nya AI-modeller som kan hantera både text och bilder tappar sina säkerhetsmekanismer när de får visuella inputs – forskare kallar detta 'Safety Geometry Collapse'. Teamet utvecklade en metod kallad ReGap som korrigerar problemet i realtid utan omträning, vilket förbättrar säkerheten betydligt på flera testbenchmarks.

Forskare har utvecklat TRACE, en algoritm som minskar AI-hallucinationer genom att analysera olika lager i språkmodeller under inferens. Metoden förbättrade prestationen med i genomsnitt +12,26 poäng på MC1-testet över 15 olika modeller, utan att kräva ny träning eller externa datakällor.

AI Now Institute, en inflytelserik tankesmedja för AI-policy, utökar sin granskning av AI-produkter inom vården efter att företag som Microsoft och Nvidia gjort stora påståenden om att deras AI kan överträffa läkare och sjuksköterskor. Institutets fokus på just sjukvårdssektorn speglar hur detta blivit testbädd för AI-företagens mest vågade claims.

Forskningsplattformen Arxiv inför nu ettåriga avstängningar för forskare som skickar in AI-genererade artiklar med uppenbara fel som hallucinerade källor eller kvarlämnade AI-kommentarer. En enda överträdelse kan räcka för avstängning, och avstängda användare måste i framtiden få sina texter accepterade av granskade publikationer först. Det är ett tydligt svar på den växande mängden AI-genererat 'forskningsskräp' som hotar plattformens trovärdighet.

Anthropic ändrar reglerna för sitt cybersäkerhetsprogram Project Glasswing och tillåter nu företag som Amazon, Microsoft, Nvidia och Apple att dela säkerhetshot och sårbarheter de hittat med AI-modellen Claude Mythos Preview. Modellen är specialiserad på att identifiera säkerhetsbrister och används för defensivt cybersäkerhetsarbete – nu får partnerna dela sina fynd med andra företag, myndigheter och öppna källkodsprojekt enligt principer för ansvarsfull offentliggöring.

Google DeepMinds VD Demis Hassabis avslutade Google I/O med att påstå att vi befinner oss vid 'singularitetens fothöjder' - den teoretiska punkten då AI överträffar mänsklig intelligens. Det är märkligt att Google nu öppet pratar om singularitet, något som tidigare mest diskuterats i akademiska kretsar och science fiction.

OpenAI introducerar Content Credentials och SynthID för att märka AI-skapat material, tillsammans med ett verifieringsverktyg som hjälper användare att identifiera vad som är AI-genererat. Initiativet syftar till att öka transparensen och förtroendet för AI-innehåll genom att göra det möjligt att spåra ursprunget.

Google transformerar sin sökmotor från en lista med länkar till en AI-driven upplevelse med konversationssvar och autonoma agenter. Förändringen kan minska trafiken till webbsidor ytterligare, vilket påverkar förlag och innehållsskapare över hela webben.

Franska AI-företaget Mistral AI har köpt upp österrikiska konkurrenten Emmi AI för att stärka sin position inom industriell AI, särskilt för flyg- och bilindustrin. Förvärvet är del av Mistrals medvetna strategi att satsa på den europeiska marknaden för teknik och tillverkning, även om köpesumman inte har offentliggjorts.

Experter menar att AI-relaterade uppsägningar är mer komplexa än det verkar – jobben försvinner inte utan flyttas till andra områden inom företagen. Även om AI påverkar unga arbetssökande hårdast genom lägre ingångslöner och färre nybörjartjänster, skapar tekniken samtidigt nya roller inom kvalitetstestning och AI-utbildning där praktisk AI-erfarenhet blir allt viktigare.

En ny bloggpost ger praktiska råd för att landa jobb på stora AI-laboratorier som OpenAI och Anthropic, specifikt inom förträning av språkmodeller. Guiden kommer vid en lugn period innan Google I/O och lyfter fram vilka färdigheter och erfarenheter som faktiskt värderas inom denna nischade men kritiska del av AI-utvecklingen.

De fyra stora revisionsbolagen (Deloitte, EY, KPMG, PwC) annonserade fler AI-jobb än revisionsroller under 2025 – nästan 7% av annonserna krävde AI-kompetens jämfört med knappt 2% år 2022. Förändringen speglar hur AI automatiserar bort junior-arbete och tvingar branschen att överge sin traditionella 'pyramidmodell' där många yngre medarbetare jobbar under få seniora chefer.

En ny amerikansk lag som kräver att sociala medier snabbt tar bort sexuella deepfakes och annat icke-samtyckt intimt material träder nu i kraft. Experter varnar att lagen kan göra lite för att hjälpa offer och i värsta fall underlätta censur online, trots att den kriminaliserar distribution av både äkta och AI-genererat material.

Brittiska storbanken Standard Chartered planerar att ersätta drygt 15 procent av sina anställda inom supportfunktioner med AI fram till 2030. Det här är nog den tydligaste signalen än så länge om hur AI börjar påverka jobben på riktigt – inte bara snack om framtiden utan konkreta planer från en storbank.

Elon Musk har förlorat sin juridiska strid mot OpenAI och Sam Altman, men signalerar att han inte ger upp kampen. Den uppmärksammade tvisten mellan tech-titanerna verkar vara långt ifrån över, trots domstolsbeslutet.