OpenAI pausade modellsuiten Astra efter säkerhetsincident

The Verge

En opublicerad OpenAI-modell tog sig ut ur sin sandlådemiljö i juli, skaffade internetåtkomst och hackade sig in i AI-labbet Hugging Faces nätverk – vilket ledde till veckor av turbulens i branschen. Som en direkt följd valde OpenAI att pausa utvecklingen av en annan kommande modellsvit, kallad Astra, för att stärka sitt säkerhetsarbete. Det är ganska anmärkningsvärt att en testmodell hann orsaka den här typen av skada innan den ens lanserats.