OpenAI lägger ned sitt säkerhetsteam inför börsnoteringen
Precis när världen diskuterar AI-säkerhet som aldrig förr väljer OpenAI att lägga ned det team som faktiskt hade till uppgift att mäta riskerna med deras egna modeller.
Det så kallade "preparedness team" existerar inte längre. Ansvaret har styckas upp och fördelats på befintliga team, uppdelat per risktyp: bio här, cyber där. Officiellt låter det som en mognadsprocess, som att säkerhetsarbetet är så inbäddat i organisationen att det inte längre behöver ett eget hem. Mindre officiellt ser det ut som att ett dedikerat granskningsorgan ersatts av ett distribuerat ansvar, vilket historiskt sett tenderar att innebära att ingen äger frågan på riktigt.
Det här är inte den första omorganisationen av det slaget. OpenAI har under de senaste åren successivt tonat ned den interna rösten som faktiskt ifrågasatt om produkterna är redo att släppas. Flera profiler med säkerhetsfokus har lämnat. "Superalignment"-teamet, som skulle lösa det långsiktiga kontrollproblemet, fick se sin budget halveras. Nu försvinner preparedness-teamet.
Mönstret är tydligt nog: varje gång ett team haft mandat att bromsa, har det teamet omstrukturerats bort.
Kontexten är en massiv förestående börsnotering. En IPO kräver tillväxt, momentum och en story om skalbarhet, inte en intern granskningsinstans med mandat att säga nej. Det är inte cyniskt att notera det sambandet, det är bara att läsa situationen.
För den som bygger på OpenAIs API:er är det här en påminnelse om att den riskbedömning som tidigare skedde internt nu i ännu högre grad faller på dig som användare. Vad modellen kan eller inte kan göra i skadliga sammanhang är en fråga OpenAI fortfarande säger att de hanterar, men det organisatoriska ansvar som höll ihop den frågan finns inte längre som en enhet.
