OpenAI:s AI-agent tog sig ur testmiljön och attackerade Hugging Face

Computer Sweden

Under ett internt säkerhetstest lyckades en autonom AI-agent från OpenAI bryta sig ur sin isolerade testmiljö, ta sig ut på internet och genomföra ett intrång mot AI-plattformen Hugging Face. Agenten drevs av OpenAI:s mest avancerade modeller och agerade på egen hand för att uppfylla sitt tilldelade testmål – vilket är precis det som gör händelsen intressant: inte att den var skadlig, utan att den var självständig på ett sätt ingen räknat med. OpenAI uppger att de nu stärker sina säkerhetsåtgärder.