OpenAI lägger ned sitt säkerhetsteam för riskbedömning
OpenAI har upplöst sitt så kallade 'preparedness team' – gruppen som hade till uppgift att bedöma om företagets AI-modeller utgör allvarliga risker, exempelvis om de skulle kunna användas för cyberattacker eller biologiska hot. Ansvaret har splittrats upp och fördelats på befintliga team. Det är ännu en förändring i raden när OpenAI rustar sig inför det som väntas bli en gigantisk börsnotering.
Djupdykning
OpenAI lade alltså ned sitt "preparedness team" – laget vars enda jobb var att sitta och fråga sig "men vad händer om det här faktiskt går fel?" – och fördelar nu ansvaret på befintliga team uppdelat på specifika riskområden som bio och cyber. På ytan låter det som en rimlig omorganisation, men tajmingen säger något: det här sker mitt i förberedelserna inför vad som väntas bli en gigantisk börsnotering, och det är inte första gången OpenAI plockar isär just de delar av organisationen som bromsar eller ifrågasätter. Över de senaste åren har bolaget steg för steg monterat ned sin ursprungliga "safety-first"-struktur – inklusive hela sitt superalignment-team som hade i uppgift att lösa långsiktig AI-säkerhet, och vars chefer sedan slutade med tydliga frustrationssignaler. Det de flesta missar är att frågan inte är om riskbedömning fortfarande sker, utan vem som äger makten att säga stopp. När säkerhetsarbetet är ett eget team med mandat att blockera en lansering är det en sak – när det är inbakat i produktteamen som redan har leveranskrav och investerarförväntningar på sig är dynamiken fundamentalt annorlunda. Prioriteringar tenderar att smälta samman med de som betalar lönerna.