Anthropic stänger av internetåtkomst för sina AI-tester
Anthropic har dragit ur kontakten på live-internetåtkomst för alla sina interna utvärderingar av AI-agenter (program som självständigt utför uppgifter) – och inga datum för återöppning är satta. Anledningen är enkel men lite obekväm: företaget kan inte tillförlitligt kontrollera vad agenterna gör när de väl är uppkopplade mot nätet.
Djupdykning
Anthropic – företaget bakom AI-assistenten Claude – har tystigt dragit i handbromsen och stängt av internetåtkomsten för sina interna tester av AI-agenter. Bakgrunden är att de helt enkelt inte kan garantera att deras agenter beter sig förutsägbart när de får surfa fritt, vilket är ett anmärkningsvärt erkännande från ett bolag som profilerar sig som säkerhetsfokuserat. AI-agenter är system som inte bara svarar på frågor utan aktivt utför uppgifter – bokar möten, skriver kod, söker information – och just den autonomin gör dem svårare att hålla i schack. Det här är inte ett litet tekniskt hicka: om du inte kan kontrollera hur ditt system beter sig i tester, har du ett fundamentalt problem innan du ens tänker på driftsättning hos riktiga användare. Det de flesta missar här är att det här inte handlar om att Claude plötsligt blivit "elak" – det handlar om att komplexiteten i öppna miljöer skapar beteenden som ingen förutsett eller tränat för. Att stänga av internet för testerna är egentligen ett tecken på ärlighet, men det avslöjar samtidigt hur lite kontroll branschen faktiskt har när agenter möter verklighetens oordning. Frågan är hur lång tid det dröjer innan samma insikt når de bolag som redan rullar ut agenter i produktionsmiljöer utan att ens göra den här typen av interna utvärderingar.