AI-agenter tar över – och ingen frågade oss

OpenAI har satt ihop en rådgivande grupp av matematiker efter att bolagets AI-modeller löst mer än 100 tidigare olösta matematiska problem. Rådet är dock rent konsultativt – de får varken bromsa eller styra om OpenAIs pågående matematikforskning, vilket säger en del om vem som egentligen bestämmer tempot.

OpenAI har publicerat ett ramverk för hur världens länder ska kunna enas kring gemensamma standarder för AI – med fokus på samordnad utvärdering, rapportering och styrning. Tanken är att undvika ett lapptäcke av nationella regler och i stället skapa ett gemensamt språk för vad säker AI faktiskt innebär. Det är ett politiskt dokument lika mycket som ett tekniskt, och det är värt att notera att OpenAI här positionerar sig som en central röst i den globala regleringsdiskussionen.

NVIDIA argumenterar för att AI-säkerhet inte är ett abstrakt koncept utan ett konkret ingenjörsproblem med definierade krav, kontroller och ansvariga ägare. Det intressanta är att de jämställer AI-säkerhet med hur branschen tidigare hanterade internet- och molnsäkerhet – det tar tid, men grundprinciperna består. Budskapet: säkerhetsarbetet måste accelerera i takt med att AI-agenter (självständiga AI-system som utför uppgifter) blir kraftfullare.

Anthropic och konsultjätten Accenture har tecknat ett samarbetsavtal där Accentures experter får arbeta inbäddade hos Anthropic för att utvärdera kommande AI-modeller innan de släpps – tanken är att hitta brister tidigt och vara öppna med eventuella incidenter. Båda parter förbinder sig att investera en miljard dollar vardera under fem år, vilket gör det till ett rejält åtagande. Det intressanta här är att Anthropic aktivt välkomnar extern granskning som ett sätt att göra sitt säkerhetsarbete mer trovärdigt, snarare än att bara hävda att modellerna är säkra.

Import AI:s senaste utgåva täcker tre teman: USA:s officiella strategi för att nå superintelligens, experiment där mänskliga hjärnceller odlas i musskalle, och 'maskinhermeneutik' – hur AI tolkar text. Det verkligt intressanta är frågan som löper genom hela numret: börjar AI stöta på en verklig prestationsplatå, eller inbillar vi oss det?

En AI-forskare vittnade inför den amerikanska kongressen om styrkeförhållandena inom öppna AI-modeller – det vill säga modeller vars kod är tillgänglig för allmänheten. Artikeln är en utvidgad version av det vittnesmålet och analyserar vilka aktörer som dominerar och vad det innebär för konkurrens och säkerhet.

År 2035 beräknas 49 miljoner autonoma fordon (nivå 3–5) finnas i drift globalt, och runt 60 miljoner industrirobotar väntas driftsättas mellan 2026 och 2035 – det är den skala som nu tvingar fram ett seriöst samtal om säkerhet i fysisk AI. Det intressanta är inte bara att maskinerna blir fler, utan att de delar miljö med människor i fabriker, på vägar och i lager, vilket ställer helt andra krav än mjukvarubaserad AI.

Sarah Breeden, vicechef på Bank of England, slår larm om att finansiella tillsynsmyndigheter håller på att få ont om tid för att hantera riskerna med autonoma AI-agenter på finansmarknaderna. Kärnan i oron är att självstyrande AI-system kan orsaka en marknadskollaps innan reglerarna hunnit ikapp.

Amazons forskningsgren Bio Discovery har publicerat tre nya studier som fokuserar på att använda AI för att utveckla och testa antikroppar – proteiner som immunsystemet använder för att bekämpa sjukdomar. Det intressanta här är inte bara att AI används för design, utan att Amazon också experimentellt validerar resultaten i labb, vilket är steget som ofta saknas när forskning stannar på pappret.

LangChain har integrerat Jev i sin plattform LangSmith Evals, där den kan användas som 'domare' för att bedöma hur väl AI-agenter presterar – snabbare och billigare än tidigare metoder. Det är en praktisk uppdatering för utvecklare som vill hålla koll på kvaliteten i sina AI-system utan att det kostar skjortan.

Att skicka ut AI-promptar utan ordentlig testning är lite som att deploya kod utan att köra tester – det går ofta åt skogen. Artikeln beskriver hur man bygger ett systematiskt ramverk för att testa promptar och fånga regressioner (när något som fungerade tidigare slutar fungera) innan de når slutanvändarna.

Morgan Stanley slår larm om att AI-sektorns snabba tillväxt riskerar att stanna av – inte på grund av teknik eller kapital, utan för att elnät och kraftproduktion inte byggs ut i tillräckligt snabb takt som datacentren. Det är en påminnelse om att AI-racet i praktiken är ett infrastrukturrace, där kilowattimmar är lika avgörande som GPU:er.

Nvidias vd Jensen Huang avfärdar varningarna om att AI skulle kunna utplåna mänskligheten och kallar domesdagsprofetior för 'oansvariga'. Det är ett tydligt avståndstagande från röster inom branschen – som tidigare Google-chefen Geoffrey Hinton – som varnat för existentiella risker med avancerad AI.

Nvidia investerar 1,5 miljarder dollar i energibolaget SB Energy, ägt av japanska Softbank, som bygger ett stort datacenter i Ohio – med OpenAI som enda hyresgäst. Det är ett talande tecken på hur hårt OpenAI gasar på infrastruktursidan, och hur tätt Nvidia knyts till hela AI-ekosystemet utöver att bara sälja chips.

Diogo Almeida, vd för TypeSafe AI, gästar Latent Space-podden för ett djupdyk om Jev – ett ramverk (strukturerat sätt att bygga AI-system) byggt för att köra språkmodeller i verkliga produktionsmiljöer snarare än i kontrollerade labbupplägg. Det intressanta här är perspektivskiftet: istället för att jaga den mest kapabla modellen handlar det om att bygga system som faktiskt fungerar stabilt på riktigt.

Lovable och Legora – två av Sveriges hetaste AI-bolag – är juridiskt registrerade i Delaware, USA, trots att de marknadsförs som europeiska framgångssagor. Skatteexpert Mattias Schömer på advokatfirman Vinge ser 'en stor risk' i trenden, där svenska skattepengar och investeringar riskerar att gynna amerikanskt näringsliv snarare än det inhemska.

NVIDIA lanserar DSX Ready, ett program som kvalificerar el- och kylningsprodukter specifikt för AI-fabriker (storskaliga datacenter byggda för AI-beräkningar). Tanken är att hjälpa byggare välja komponenter som faktiskt passar ihop med hela anläggningens design – ett praktiskt problem som blivit allt mer akut i takt med att strömförsörjning och kylkapacitet blivit lika stora flaskhalsar som själva GPU:erna.

Trots löften om europeisk bas väljer svenska AI-stjärnor som Lovable och Legora att registrera sig i Delaware, USA – ett klassiskt drag för bolag som siktar på amerikansk riskkapital. Skatteexpert Mattias Schömer på advokatfirman Vinge varnar för att detta innebär en stor risk, troligtvis för att framtida skatteintäkter och ägarvärden riskerar att hamna utanför Sverige.