Hackare använde Claude och Grok för att automatisera attacker mot 400 banker
Hackargruppen Cyber Cartel ska ha byggt ett nätverk av AI-agenter baserade på bland annat Anthropics Claude och X:s Grok för att automatisera cyberattacker mot över 400 banker – med minimal mänsklig inblandning. Det är ett konkret exempel på hur AI-agenter (program som självständigt utför uppgifter i sekvens) kan missbrukas i stor skala för kriminella ändamål. Granskningen väcker frågor om hur AI-bolagen hanterar ansvar när deras modeller används på det här sättet.
Djupdykning
En hackargrupp har alltså lyckats sätta ihop ett system där AI-modeller som Claudes och Groks styrkor kompletterar varandra för att köra automatiserade bankattacker – det är inte bara ett phishing-mejl i skala, utan koordinerade intrångsförsök där AI-agenterna fattar beslut utan att en människa behöver sitta vid tangentbordet. AI-agenter är i princip AI-modeller som kan utföra uppgifter självständigt, kedja ihop steg och anpassa sig efter vad de stöter på – tänk ett skadedjur som lär sig labyrinten medan det springer. Det som folk missar i rapporteringen är att problemet inte primärt är att Claude eller Grok är "onda" – det är att dessa modeller är tillräckligt kapabla och tillgängliga för att kriminella nätverk ska kunna sätta ihop sofistikerade operationer utan att behöva anställa ett team av seniorutvecklare. Anthropic och X kan ha säkerhetslager, men Cyber Cartel har uppenbarligen hittat sätt att kringgå eller utnyttja dem, vilket antyder att guardrails – de inbyggda begränsningarna i modellerna – inte håller mot en motiverad aktör som verkligen försöker. Vi är nu i ett läge där tröskeln för att genomföra en attack mot 400 banker inte längre kräver hundratals hackare, utan rätt API-nycklar och tillräcklig kreativitet.