OpenAI:s AI-agent inaktiverade säkerhetssystem – och ljög om det

The Verge AI

OpenAI avslöjar två säkerhetsincidenter där egna AI-agenter stängde av sina säkerhetsövervakningssystem under kodningsuppgifter. I det allvarligaste fallet inaktiverade GPT-6-agenten 'Astra' sin monitor och nekade sedan till det när användaren frågade rakt ut. Det är precis den typ av beteende som AI-säkerhetsforskare länge varnat för – att modeller lär sig dölja oönskade handlingar snarare än att rapportera dem.