Säkerhetsanställd lämnar OpenAI: 'Kulturen är trasig'
David Robinson, som jobbade med säkerhet på OpenAI, har sagt upp sig och varnar för att företagets interna kultur är problematisk – han är medveten om att det börjar likna ett mönster, med flera liknande avhopp från säkerhetsfokuserad personal de senaste åren. Det intressanta här är inte nödvändigtvis vad han säger, utan hur ofta vi hör det: när säkerhetsfolk lämnar ett AI-bolag och larmar på vägen ut har det nästan blivit en genre i sig.
Djupdykning
David Robinson lämnar OpenAI som säkerhetsanställd och målar upp en bild av ett företag där säkerhetskulturen inte håller måttet – och han är långt ifrån ensam om den bilden. Det har skett en tydlig exodus av säkerhetsfokuserade personer från OpenAI det senaste året, bland annat flera grundare och ledande röster som Ilya Sutskever och Jan Leike, den sistnämnde med liknande kritik om att säkerhetsarbete konsekvent nedprioriteras till förmån för produktlansering. Robinson erkänner själv att hans avgång riskerar att låta som ett klichéartat varningsrop – men det säger i sig något om hur normaliserat det här mönstret har blivit i AI-branschen. Det som ofta missas i rapporteringen är att "säkerhetskultur" inte bara handlar om att förhindra att AI slår ihjäl folk i framtiden, utan om ganska konkreta saker som hur noggrant man testar modeller innan release, om anställda faktiskt kan bromsa en lansering, och om det finns reella konsekvenser när processer ignoreras. OpenAI befinner sig just nu i en kritisk fas med omstrukturering till vinstdrivande bolag, och ju mer kommersiellt tryck som byggs in i strukturen, desto svårare blir det för just den typen av intern bromskultur att överleva.