Simon Willison testar gränserna för Claude Code Opus 5
Simon Willison har gjort en djupdykning i hur Claude Code Opus 5 i 'auto mode' kan manipuleras eller brytas – ett sätt att förstå modellens faktiska beteende bortom marknadsföringen. Sådana praktiska stresstester är värdefulla eftersom de avslöjar hur AI-kodverktyg faktiskt beter sig i kantfall, vilket varken produktsidor eller benchmarks brukar visa.
Djupdykning
Artikeln du klistrade in verkar bara innehålla en rubrik – "Breaking Claude Code Opus 5 Auto Mode" – utan faktiskt innehåll, så jag får jobba med det lilla som finns här. Claude Code är Anthropics terminalbaserade kodningsverktyg där en AI-agent självständigt kan skriva, köra och debugga kod direkt i din miljö, och "Auto Mode" syftar på det läge där modellen tar egna beslut om vilka verktyg den ska använda utan att fråga om lov för varje steg. Att "bryta" ett sådant system handlar oftast om att hitta edge cases där modellen antingen fastnar i loopar, missar kontext mellan steg, eller tar oväntade genvägar som tekniskt fungerar men inte gör vad användaren egentligen ville. Opus 5 är ännu inte officiellt släppt publikt, vilket gör det hela lite oklart – det kan röra sig om ett läckage, ett internt test, eller helt enkelt en spekulativ rubrik. Det som de flesta missar i debatten om AI-kodningsverktyg är att "breaking" dem sällan handlar om säkerhet i klassisk mening, utan om att avtäcka hur tunnhyvlat planeringslaget faktiskt är när uppgiften kräver mer än ett par steg framåt.