OpenAI bygger hackar-AI för att göra sina modeller säkrare

MIT Technology Review

OpenAI har utvecklat en LLM (stor språkmodell) kallad GPT-Red som fungerar som en AI-hackare – dess uppgift är att försöka knäcka och lura OpenAIs egna modeller för att hitta säkerhetsbrister innan de når användarna. Det är ett intressant grepp: i stället för att enbart testa säkerhet manuellt låter man en AI anfalla en annan AI. Artikeln nämner även att värmepumpar ökar i popularitet i USA, men det är GPT-Red som är den verkliga nyheten här.