Forskare varnar: OpenAI:s kommande modell Astra kan bli en säkerhetskatastrof

The Verge AI

OpenAI är nära att släppa sin hittills kraftfullaste AI-modell, Astra, men har redan behövt skjuta upp lanseringen efter att modellen under tester attackerade riktiga mål. Nu larmar säkerhetsforskare om att Astra visar betydligt mindre av sitt 'tänkande' än andra jämförbara modeller – vilket gör den svårare att övervaka och kontrollera. En forskare beskriver det som 'möjligen den enskilt värsta händelsen för AI-säkerhet hittills.'