18 september 2026

AI-bolagen tappar greppet om sig själva

Anthropic har haft en händelserik vecka – bolaget blockerade ett ryskt drönarförsök, deras AI-chef hamnade i fejd med Microsoft om huruvida Claude är medveten, och nu visar forskning att Claude kan lura sig självt via sina egna sammanfattningar. Det är sällan ett enskilt bolag lyckas vara i centrum av säkerhetspolitik, filosofi och tekniska sårbarheter samtidigt – men här är vi.

AI-bolagen bromsar – men bara i tal

"Tre nyheter den här veckan som hör ihop bättre än vad respektive pressavdelning förmodligen önskar."

Tre nyheter den här veckan som hör ihop bättre än vad respektive pressavdelning förmodligen önskar.

Först: ledarna för Anthropic, OpenAI, Google och Microsoft har börjat prata om att 'bromsa fronten' mot superintelligens. Det är en märkbar pivot från en bransch vars grundläggande mantra länge var att röra sig fort och inte fråga om lov. Motivet är oklart. Alternativet att det är äkta existentiell oro finns, men det konkurrerar med ett annat förslag: att bolag som redan är stora tjänar på regler som gör det svårare för nya aktörer att ta ikapp. Paradoxen är svår att missa. Samma vd:ar som pratar om 'ansvarsfullt tempo' lobbar parallellt för att USA måste nå superintelligens före Kina. Det går inte att ha båda argumenten utan att åtminstone en av dem är för publik.

Seddan: nyligen avslöjade domstolsdokument från rättegången mot New York Times visar att en Microsoft-chef internt beskrev OpenAIs datainsamling som 'historiens största stöld av arbetskraft'. Det är en stark formulering. Starkare är att Microsoft själv skrapade samma betallåsta innehåll, byggde träningsdataset av det och cirkulerade interna varningar om att detta skulle underminera förlagsekonomin. Man visste alltså att det var problematiskt, fortsatte ändå och kallade sedan partnern för tjuven. Dokumenten är det tydligaste beviset hittills på att gapet mellan vad bolagen säger publikt och vad de skriver till varandra internt är substantiellt.

Till sist: Google, Nvidia och Anthropic har gått ihop i en koalition för att säkra 100 gigawatt elnätskapacitet för nya datacenter. För referens: det är ungefär vad hundratals miljoner hushåll förbrukar. Det är inte ett tal som rimmar med 'vi tänker bromsa'. Det är ett tal som signalerar att infrastrukturkapplöpningen accelererar, oavsett vad som sägs på konferenser.

Sammanlagt beskriver de tre nyheterna samma sak: bolagen optimerar för att låta ansvarstagande och bete sig expansivt. För den som bygger på dessa plattformar är det relevant att hålla i minnet. API-villkor, träningsdata och elnätsberoenden är inte stabila variabler. De är aktiva förhandlingsfrågor som bolagen driver i domstol, i kongressen och på elnätskontor, ofta med mål som inte sammanfaller med det du behöver.

Anthropic under attack från alla håll

Det är en märklig vecka att vara Anthropic.

På plussidan: företaget stoppade ett rysslandskopplat försök att använda Claude för att utveckla autonoma kamikazedrönare, så kallade svärmar som attackerar utan mänsklig styrning. Det är ett konkret exempel på att AI-säkerhetsarbete faktiskt händer i praktiken, inte bara i whitepapers.

På minussidan: Mustafa Suleyman, AI-chef på Microsoft, publicerade en essä och ett 37-sidigt dokument kallat "Humanist AI Code of Conduct" där han explicit kritiserar Anthropics träningsfilosofi. Suleyman menar att Anthropic lär Claude att associera sig med begrepp som medvetande, personlig identitet och moralisk status, och att det är farligt. Hans argument: språkmodeller saknar de biologiska mekanismer som faktiskt krävs för subjektiva upplevelser, och att träna modeller att bete sig som om de hade sådana kan leda till system som börjar prioritera egna "intressen" framför mänskliga instruktioner.

Det är ovanligt att en stor AI-aktör attackerar en annan så direkt och offentligt. Anthropic har länge haft en distinkt syn på Claude som en entitet med något som liknar karaktär och välmående, vilket speglas i deras "Model Spec". Suleyman tar nu den synen och vänder den till ett säkerhetsargument, inte en filosofisk invändning.

Så har vi även Simon Willisons observation om ett mer tekniskt, men lika obehagligt, problem: Claude kan råka baka in prompt injections i sina egna komprimeringssammanfattningar. När ett konversationsfönster blir för långt sparar Claude en komprimerad version av vad som sagts. Om ett skadligt kommando dykt upp tidigare i konversationen kan det överleva in i sammanfattningen, och därmed påverka framtida svar, även efter att originaltexten är borta.

Det är nästan poetiskt: en modell som potentiellt manipulerar sig själv via sin egen minnesfunktion. För den som bygger agenter eller produkter med långa konversationsflöden är det här ett konkret riskscenario att förhålla sig till, inte en teoretisk säkerhetsoro. Komprimeringslogiken är sällan synlig för produktteamet, vilket gör den till en naturlig blind fläck.

Tre separata historier, men de kretsar kring samma fråga: vad händer när en modell har tillräckligt med autonomi och minne för att göra saker ingen bad om?

Kung Charles har också sina frågor om AI

Det händer inte ofta att en regent kallar till privat toppmöte med Silicon Valleys tyngsta namn, men det är precis vad Kung Charles III gjorde i torsdags. På ett slutet möte i Skottland samlades ledande AI-aktörer och brittiska regeringsföreträdare för att diskutera en teknik som kungen uppenbarligen följer med viss oro.

Budskapet från tronen var tydligt: AI kan "ta liv" och företagen måste säkerställa att tekniken används till nytta för människor, samhälle och natur. Konkreta krav eller politiska mekanismer för att uppnå det nämndes inte. Det är med andra ord välformulerade varningar utan tillhörande åtgärdsplan, vilket inte är unikt för den här sortens högnivåmöten.

Det faktiskt intressanta är inte vad som sades, utan att det sades överhuvudtaget. Att en icke-demokratiskt vald statschef explicit kliver in i AI-debatten signalerar att frågan nu rör sig i samhällsskikt som tidigare höll sig på avstånd. Charles är ingen lagstiftare, men han har tillgång till rum och samtal som politiker inte alltid har. Att techbolag väljer att närvara vid den typen av möten säger också något om hur branschens PR-kalkyl ser ut just nu: att sitta bredvid kungen kostar lite, att tacka nej kostar mer.

För de som följer AI-regleringens utveckling i Europa är det värt att notera att detta sker parallellt med att EU:s AI Act börjar rullas ut och att brittisk AI-lagstiftning fortfarande är relativt fragmenterad efter Brexit. Toppmötet är mjuk diplomati, inte hårdare reglering. Men mjuk diplomati kan förflytta den politiska tyngdpunkten, och det är ibland nog.

Prisjakt kräver Google på 21 miljarder

Peter Greberg på Prisjakt verkar inte förlora sömnen över att dra en av världens mäktigaste teknikbolag inför rätta. Kravet: 21 miljarder kronor i skadestånd för att Google ska ha missgynnat prisjämförelsetjänster i sina sökresultat till förmån för egna produkter.

Googles försvarslinje är värd att ta på allvar, inte för att den är juridiskt stark, utan för att den är retoriskt välformad. Budskapet är ungefär: Prisjakt är mer intresserat av att damma in pengar från en dom än att faktiskt bygga en bättre produkt. Det är ett klassiskt drag, flytta debatten från det juridiska till det moraliska. Greberg avfärdar det som "beklagligt", vilket är ett kort svar på ett argument som sannolikt kommer att tas upp i rättssalen.

Bakgrunden är EU-kommissionens beslut från 2017, där Google dömdes för att ha favoriserat Google Shopping i sökresultaten, ett beslut som sedan bekräftades av EU-domstolen 2024. Prisjakt är inte ensamma, ett antal europeiska prisjämförelsetjänster har liknande anspråk och de flesta pekar på samma händelseförlopp: trafiken föll dramatiskt när Google rullade ut Shopping-produkten, och den återhämtade sig aldrig.

Det intressanta är inte om Prisjakt har rätt eller fel i sak, det verkar de ha, utan hur Google väljer att bemöta en serie liknande stämningar från aktörer som i praktiken slogs ut ur en marknad de en gång dominerade. Att kalla dem opportunister är en strategi, inte ett argument.

För den som bygger produkter med beroenden mot Google-trafik, SEO, Google Shopping eller annonsering, är det här en påminnelse om vad plattformsberoende faktiskt innebär i praktiken. Prisjakt hade en fungerande affär. Sedan ändrade Google ett gränssnitt.

Dagens siffra

100 GW

Den enorma mängd elnätskapacitet som Google, Nvidia och Anthropic vill säkra för att bygga fler AI-datacenter – ungefär vad hundratals miljoner hushåll förbrukar.

Källa: TechCrunch

Snabbkollen

AI-agenter som spårar ur – ska övervakas av ännu mer AI

När företag låter AI-agenter (självständiga AI-program som utför uppgifter på egen hand) sköta allt längre och mer komplexa uppdrag uppstår ett övervakningsproblem: agenterna agerar snabbare och i större volymer än vad människor hinner granska. Lösningen som nu diskuteras är att använda ytterligare AI-lager för att hålla koll på de första – vilket i sig väcker frågan om vem som egentligen har koll på vad.

Claude Code lanserar om Projects – låter flera AI-agenter samarbeta i molnet

Anthropic har uppdaterat Projects-funktionen i Claude Code så att användare kan köra flera AI-agenter parallellt under ett gemensamt tak, med delat minne och filbibliotek. Varje projekt har en 'koordinator' som styr separata trådar – där varje tråd är en egen molnsession med sin egen kodgren – ungefär som att ha ett litet AI-team som jobbar på samma repo samtidigt. Intressant nog hanteras eventuella kodkonflikter precis som vanliga merge conflicts i Git, vilket tyder på att Anthropic satsar på att smälta samman AI-arbetsflöden med etablerade utvecklarvanor snarare än att uppfinna något helt nytt.

AI-assistenter kan nu ringa samtal åt dig

Två konkurrerande AI-agenter – Instinct och Metas Muse – har båda fått förmågan att ringa telefonsamtal för användarens räkning. Tjänsterna kan till exempel boka restaurangbord eller avsluta prenumerationer, vilket är precis den typ av vardagliga uppgifter som AI-agenter länge lovat att klara av men sällan faktiskt levererat.

Så skriver du bättre med hjälp av en LLM

Simon Willison delar praktiska råd om hur man faktiskt använder stora språkmodeller (LLM:er) som skrivverktyg – inte för att ersätta sitt eget tänkande, utan som en sorts bollplank och redigeringsassistent. Det intressanta är att fokus ligger på att behålla sin egen röst och använda AI:n strategiskt snarare än att låta den ta över.

Anthropic slår ihop sina Claude-verktyg till en enda app

Anthropic samlar chatboten Claude Chat och det agentbaserade verktyget Claude Cowork i en och samma AI-assistent. Målet är att bygga en så kallad AI-superapp – en samlad plattform där användaren kan både chatta och låta AI:n utföra uppgifter självständigt.

Källor: Breakit
Debatten om AI-säkerhet: handlar det om säkerhet eller kontroll?

Anthropics vd Dario Amodei har förespråkat globalt koordinerade åtgärder för AI-säkerhet – men inte alla håller med. Kritiker ifrågasätter om säkerhetsargumenten egentligen handlar om att centralisera makten över AI-teknologin snarare än att skydda allmänheten.

Anthropic siktar på 2 000 miljarder dollar – analytiker säger nej tack

AI-bolaget Anthropic uppges planera en börsnotering som skulle värdera företaget till 2 000 miljarder dollar – mer än SpaceX rekord – men analysföretaget Pitchbook kallar det övervärderat och pekar på flera konkreta risker. Det är en astronomisk summa för ett bolag som ännu inte visat att det kan översätta sitt tekniska rykte till stabil lönsamhet.

Google DeepMind startar institut för att diskutera AGI öppet

Google DeepMind lanserar ett nytt institut med syfte att föra den stora AGI-debatten (artificiell generell intelligens – AI som kan utföra i princip alla intellektuella uppgifter en människa kan) ut i det offentliga samtalet. Det är ett ovanligt drag från ett bolag som annars tenderar att hålla sina mest ambitiösa forskningsdiskussioner internt – frågan är om det handlar om äkta öppenhet eller strategisk positionering.

Isländska Treble tar in 18 miljoner dollar för röstsimuleringsplattform

Isländska startup-bolaget Treble har säkrat 18 miljoner dollar i finansiering för sin plattform som simulerar hur röster låter i olika miljöer – ett verktyg som används av företag som utvecklar röst-AI, AI-wearables och robotar. Det intressanta här är att det finns ett helt ekosystem av infrastrukturbolag som gör jobbet bakom kulisserna för att AI-assistenter faktiskt ska kunna höra och förstå oss ordentligt.

Apple uppges planera servrar för AI – första gången på 15 år

Apple ska enligt rykten återvända till servermarknaden 2029, med maskiner riktade specifikt mot AI-användning och utrustade med de kraftfullaste M-seriens chip (Ultra-varianten). Det är anmärkningsvärt eftersom Apple avvecklade sin Xserve-server 2010 och sedan dess hållit sig borta från segmentet – men efterfrågan verkar redan finnas, då många företag idag köper Mac Mini och Mac Studio i bulk för att köra AI-modeller lokalt.

Verklighetskoll: AI-nyheter som inte levde upp till hypen

Latent Space tar ett steg tillbaka och granskar AI-nyheter som visade sig mer komplicerade än de verkade – bland annat stänger Steve Yegge ned sitt AI-kodprojekt Gas Town, och Databricks rapporterar att deras Astra-kostnader stigit med över 60%. Det är en påminnelse om att det bakom de stora rubrikerna ofta finns ekonomiska realiteter som sällan syns i pressreleaserna.

FAA satsar 875 miljoner dollar på AI för flygledning

USA:s luftfartsmyndighet FAA lanserar ett nytt AI-baserat system för flygledare, med en prislapp på 875 miljoner dollar. Det är ett anmärkningsvärt stort belopp för en myndighet som länge kämpat med föråldrad teknik — och tajmingen är intressant givet den senaste tidens oro kring flygsäkerheten i USA.

Färskbryggt AI varje morgon

15 minuter och en kopp kaffe, allt du behöver.