Claude användes för att hitta kryptografiska svagheter
Simon Willison beskriver hur AI-modellen Claude användes för att upptäcka svagheter i kryptografiska system – ett område som traditionellt kräver djup specialistkompetens. Det intressanta här är inte bara att det fungerade, utan vad det säger om hur AI förändrar tröskeln för avancerad säkerhetsanalys.
Djupdykning
Anthropic har publicerat ett case study där Claude används för att aktivt leta efter kryptografiska svagheter – alltså brister i de matematiska system som skyddar allt från dina bankuppgifter till statliga hemligheter. Det är en ganska remarkabel position: ett AI-bolag tränar sin modell att knäcka de lås som håller internet ihop, om än i kontrollerad form. Kryptografi bygger på att vissa matematiska problem är extremt svåra att lösa (tänk: lätt att multiplicera två stora primtal, praktiskt taget omöjligt att faktorisera resultatet), och Claude verkar ha visat sig användbar för att hitta genvägar i implementationer av dessa system. Det de flesta missar här är att skillnaden mellan att "hitta en sårbarhet" och att "förstå kryptografi" är enorm – och att AI nu börjar sudda ut den gränsen på ett sätt som traditionella säkerhetsverktyg aldrig gjort. En erfaren säkerhetsforskare kan ta år på sig att bygga upp den intuitionen; om Claude kan assistera nybörjare att nå liknande insikter på bråkdelen av tiden förändras hotbilden fundamentalt, åt båda hållen. Det är inte Claude som är hotet, utan demokratiseringen av förmågan – precis samma dynamik vi såg när skriptbarn plötsligt fick tillgång till färdiga exploits på 90-talet, fast potentiellt i en helt annan storleksordning.