OpenAI byggde en AI-hackare för att göra sina modeller säkrare

MIT Technology Review

OpenAI har skapat en intern språkmodell kallad GPT-Red vars enda uppgift är att försöka hacka och knäcka företagets egna AI-modeller. Den senaste versionen av deras flaggskeppsmodell, GPT-5.6, tränade mot GPT-Red och är enligt OpenAI deras hittills mest motståndskraftiga release. Tanken är enkel: att låta en AI attackera en annan är ett effektivare sätt att hitta säkerhetsluckor än att göra det manuellt.