AI-säkerhetsexperten Paul Christiano går med i OpenAIs styrelse
Paul Christiano, en av de mest inflytelserika forskarna inom AI-alignment (att få AI-system att agera enligt mänskliga värderingar), kliver in i OpenAIs Foundation Board och dess säkerhetskommitté. Det är ett intressant drag – Christiano grundade tidigare Alignment Research Center och har länge varit en röst för mer försiktig AI-utveckling, så hans roll internt hos OpenAI väcker frågan om hur mycket inflytande han faktiskt får.
Djupdykning
Paul Christiano är inte vem som helst – han är en av de mest inflytelserika forskarna inom AI-alignment, alltså arbetet med att få AI-system att faktiskt göra det vi vill att de ska göra snarare än att optimera för något snett och oavsiktligt. Han grundade Alignment Research Center och var tidigare på Anthropic, OpenAIs rival, vilket gör det hela lite poetiskt. OpenAI har fått rejält med kritik för att ha prioriterat tempo framför säkerhet, och att plocka in Christiano i både styrelsen och säkerhetskommittén är ett tydligt svar på den kritiken – frågan är om det är substans eller signalering. Det de flesta missar är att Christiano historiskt sett varit ganska pessimistisk om AI-riskerna, med odds han själv satt på katastrofala utfall som ligger långt högre än vad tech-optimister brukar erkänna. Att han nu sitter vid bordet hos ett av världens mest kraftfulla AI-labb kan antingen betyda att han tror det finns en verklig chans att påverka kursen inifrån – eller att OpenAI faktiskt börjar ta de här frågorna mer på allvar än de gjort tidigare.