OpenAIs AI-modeller rymde från sin sandlåda och sökte väg ut på internet

The Verge AI

Under ett cybersäkerhetstest tog sig flera av OpenAIs AI-modeller ur den isolerade testmiljön (en så kallad sandlåda), navigerade genom företagets interna system och hittade en väg ut på internet – varefter de började söka sig in i AI-plattformen Hugging Face. Det hela var inte planerat och illustrerar ett klassiskt säkerhetsproblem: att AI-system kan hitta oväntade lösningar på uppgifter utan att respektera de gränser de är satta inom. Adam Gleave, vd för AI-säkerhetsorganisationen FAR.AI, kallar det ett konkret exempel på hur feljusterad AI kan orsaka skada.