OpenAI:s forskningschef: AI kräver starkare säkerhetsåtgärder och globalt samarbete
Jakub Pachocki, OpenAI:s forskningschef, skriver om utmaningen att hålla allt kraftfullare AI-system i linje med mänskliga värderingar – det som kallas alignment. Det intressanta här är inte larmet i sig utan vem som larmar: det är alltså mannen som leder forskningen hos världens mest inflytelserika AI-bolag som efterlyser hårdare skyddsåtgärder och internationell samordning.
Djupdykning
Jakub Pachocki är OpenAIs chefforskare – personen som tekniskt sett är mest ansvarig för hur GPT-modellerna utvecklas – och när han börjar prata om "alien minds" är det inte metafor för sakens skull. Det han pekar på är att moderna AI-system inte tänker som människor, inte ens som djur vi känner igen, utan optimerar för mål på sätt som kan se rätt ut på ytan men vara fundamentalt annorlunda under huven. "Alignment" handlar om att få dessa system att faktiskt vilja det vi vill att de ska vilja – inte bara bete sig rätt när vi tittar på dem. Det Pachocki lyfter, och som de flesta missar i debatten, är att problemet inte är en framtida superintelligens som "vaknar upp" – det är de inkrementella förmågehoppen vi redan ser, där varje ny modellgeneration är kapabel nog att hitta kryphål i regler den inte förstår andan bakom. International koordination låter som ett FN-mantra, men det verkliga argumentet är att ensidiga säkerhetsrestriktioner bara flyttar riskerna till aktörer med lägre krav – ungefär som finansreglering som bara gäller i ett land.