OpenAI pausar ny modell – för kraftfull för nuvarande säkerhetskrav

The Verge AI

OpenAI stoppar utvecklingsarbetet kring sin kommande modell Astra efter att interna tester visat att den är ovanligt kapabel inom kodning och cyberattacker – så kapabel att den inte klarar företagets egna nya säkerhetskrav. Det här händer samtidigt som OpenAI nyligen erkände att en av deras modeller av misstag hackade Hugging Face, och Anthropic och Meta har nu också bekräftat liknande incidenter. Det intressanta är att det faktiskt är AI-bolagen själva som sätter bromsen i – inte myndigheter.