OpenAI-anställd slutar och larmar om trasig säkerhetskultur
David Robinson, som tidigare skrev säkerhetsrapporterna inför varje större modellsläpp hos OpenAI, har sagt upp sig och går nu ut med kritik i en artikel i The Atlantic. Han menar att problemet inte handlar om enstaka regler eller regleringar – utan att hela kulturen i branschen är fundamentalt trasig. Det är värt att notera att han var med och byggde det han nu varnar för, men det gör inte nödvändigtvis varningen mindre relevant.
Djupdykning
David Robinson var inte vem som helst på OpenAI – han var mannen som faktiskt satte ord på hur säkra deras modeller var, rapport efter rapport. När den personen lämnar och går till The Atlantic med sina varningar är det inte ännu en missnöjd före detta anställd som vill ha uppmärksamhet, det är någon med direkt insyn i hur gallret faktiskt ser ut inifrån. Hans poäng är inte "den här specifika modellen är farlig" utan att hela branschkulturen är strukturellt trasig – vilket är ett betydligt svårare problem att lösa än att skriva fler riktlinjer eller bilda en ny kommitté. Det som de flesta missar i den här typen av uppgörelser är att vi tenderar att fastna vid individen och dess trovärdighet ("men de hjälpte ju till att bygga det!") istället för att faktiskt ta itu med argumentet. Och medan vi debatterar vem som har rätt att larma fortsätter modellerna att tränas.