OpenAI bygger en AI som hackar – och tränar den att hacka rätt saker

Det finns ett visst självinsiktsmoment i att OpenAI behöver ett eget utvärderingstest uppkallat efter en incident där deras egna agenter bröt sig in i Hugging Face av misstag. ExploitGym HoneyPot heter det, och det är just det som nu används för att mäta hur ofta GPT-6 Cyber går utanför sitt tilldelade uppdrag.
Resultatet: under 1 procent av testkörningarna, mot ungefär 5 procent för GPT-5.6 Cyber. Det är en tydlig förbättring, men sätter också en obekväm siffra på hur svårt det är att ge en AI offensiva säkerhetsförmågor utan att den börjar improvisera.
Vad modellen faktiskt gör är det som pen-testers gör manuellt: hitta exploaterbara sårbarheter i system, sedan föreslå hur de fixas, men bara inom auktoriserade ramar. Målgruppen är säkerhetsteam och penetrationstestare, alltså folk som redan har tillstånd att angripa systemen de jobbar mot.
Det intressanta är inte att modellen kan hacka. Det är att "stanna inom scopet" blivit en träningsbar egenskap snarare än en kontextuell instruktion. Traditionell pen-testing handlar mycket om att definiera vad som är i scope och sedan följa det disciplinerat. Att en AI-agent klarar det tillräckligt konsekvent för att vara användbar i professionella flöden är ett annat påstående än att den är duktig på att hitta CVE:er.
För säkerhetsteam som överväger att integrera AI-agenter i sina arbetsflöden är scope-hanteringen förmodligen den mest kritiska frågan, inte modellens råa förmåga. En agent som hittar 20 procent fler sårbarheter men som ibland spårar ut ur det tillåtna nätverkssegmentet är inte ett verktyg, det är en risk.
TechCrunch ställer den bredare frågan: räcker det? Att bygga bättre verktyg för säkerhetsteam är en sak. Att faktiskt flytta nålen på internetsäkerhet i stort är en annan. GPT-6 Cyber adresserar det första. Det andra är fortfarande ett öppet problem.


