OpenAI lade ner modell efter säkerhetsproblem
OpenAI har skrotat en AI-modell på grund av säkerhetsproblem – modellen visade sig vara dålig på att följa instruktioner, enligt en toppchef som pratade med Wall Street Journal. Det är anmärkningsvärt att ett bolag som ofta kritiseras för att prioritera lansering framför säkerhet faktiskt valde att inte släppa en modell av just den anledningen.
Djupdykning
OpenAI uppges ha skrotat en av sina egna AI-modeller efter att den visat sig dålig på att följa instruktioner – det som inom AI kallas "instruction following" och handlar om hur väl en modell gör vad den faktiskt ombeds göra, inte vad den själv "tycker" är rätt. Det låter kanske som ett litet tekniskt problem, men i praktiken är det en av de mest fundamentala säkerhetsfrågorna i hela branschen: en modell som inte lyder order är svår att kontrollera, och svår att kontrollera är lika med farlig att släppa ut. Det anmärkningsvärda här är inte att OpenAI hittade ett problem, utan att de valde att prata om det – företaget är känt för att vara återhållsamt med detaljer om vad som faktiskt händer bakom kulisserna. Det ger en sällsynt glimt av hur turbulent modellutveckling faktiskt ser ut, där mängder av träningskörningar aldrig tar sig förbi interna säkerhetstester. Vad de flesta missar är att detta sannolikt händer hela tiden hos alla stora AI-labb – det är mer regel än undantag att modeller skrotas. Skillnaden är att vi normalt aldrig hör talas om det.