OpenAI:s nya människorättschef oroar sig för AI i krig och konflikter
Sarah Yager, OpenAI:s första chef med ansvar för mänskliga rättigheter, varnar för hur AI kan användas i krig och väpnade konflikter – något hon säger håller henne vaken om nätterna. Det är anmärkningsvärt att ett av världens ledande AI-bolag nu för första gången tillsatt just den här rollen, vilket signalerar att frågorna inte längre går att ignorera.
Djupdykning
Sarah Yager är inte vem du vanligtvis ser på scenen när OpenAI pratar om sin framtid – hon kommer från Human Rights Watch och har jobbat med krigsbrott och humanitär rätt, inte Silicon Valley-optimism. Att OpenAI nu har en dedikerad chef för mänskliga rättigheter är i sig ett erkännande av att frågorna blivit för stora för att gömma under rubriken "AI safety" – de handlar om konkreta, nuvarande konflikter, inte hypotetiska framtidsscenarier. Det Yager troligen syftar på är hur AI-system redan används i militära sammanhang för målidentifiering, desinformationskampanjer och övervakning, saker som sker nu i Gaza, Ukraina och Sudan, inte i någon dystopisk framtid. Det som de flesta missar i den här typen av nyheter är att en titel och en person inte förändrar incitamentsstrukturen – OpenAI tjänar pengar på API-access, och vem som helst med ett kreditkort kan i princip bygga saker som Yager förmodligen vaknar och oroar sig för. Frågan är om hennes roll är menad att faktiskt sätta stopp för saker, eller om hon är den person som får stå i presskonferenser och förklara varför det ändå gick snett.