"Farliga" AI:n har hittat tiotusentals sårbarheter
En ny AI-modell har upptäckt tiotusentals säkerhetshål som varit gömda i årtionden, och kan nu själv hacka system genom att planera flera steg framåt. Cambridgeforskaren Gerald Mako varnar att även om det inte är apokalypsen så "finns doften av napalm i luften" - alltså att vi närmar oss en punkt där AI kan utgöra verkliga säkerhetshot.
Djupdykning
En AI-modell från forskare vid Cambridge och Google DeepMind har börjat agera som en digital detektiv med photographic memory – den scannar genom miljontals rader kod och hittar säkerhetshål som mänskliga experter missat i decennier. Det som gör den här utvecklingen särskilt oroväckande är att modellen inte bara identifierar problem, utan kan faktiskt planera och genomföra hela attacksekvenser autonomt, som en hacker som aldrig blir trött eller gör slarvfel. Medan cybersäkerhetsföretag hyllar detta som ett genombrott för att hitta och lappa sårbarheter, missar många den uppenbara paradoxen: samma teknik som ska göra oss säkrare kan lika lätt användas för att attackera oss. Det är som att ge både brandkåren och pyromanerna exakt samma verktyg – skillnaden ligger bara i vems händer de hamnar i. Vi står inför en situation där defensiv och offensiv cybersäkerhet blir en kapprustning mellan AI-system snarare än människor, vilket förändrar hela spelplanen för både företag och nationalstater.