OpenAI:s säkerhetschef lämnar och varnar för trasig säkerhetskultur

David Robinson är inte den första att lämna OpenAI med en smäll i dörren – en rad högt profilerade säkerhetsforskare har gjort samma sak de senaste åren, bland annat medgrundarna Ilya Sutskever och Jan Leike, som båda uttryckte liknande oro när de gick. Det som gör Robinsons avgång särskilt intressant är att han specifikt ansvarade för de externa säkerhetsrapporterna – alltså de dokument som är tänkta att visa omvärlden och regulatorer att OpenAI faktiskt håller koll på riskerna. Att just han anser att kulturen är "trasig" är som att finanschefens revisor slutar och säger att böckerna inte stämmer. OpenAI befinner sig just nu i en period av extrem kommersiell press, med Microsoft som stor investerare och konkurrens från Anthropic, Google och kinesiska modeller – och den pressen skapar en inbyggd spänning mot det långsamma, noggranna arbete som säkerhet faktiskt kräver. Det stora som de flesta missar i dessa avgångar är att de inte primärt handlar om enskilda anställda som bränner ut sig – de är i stället ett mönster som antyder att strukturerna för AI-säkerhet, även hos det bolag som bokstavligen uppfann begreppet "AI safety" som affärsidé, inte är tillräckligt robusta för att motstå trycket när det väl börjar hetta till.