Påven kritiserar Jensen Huang för att tona ner AI-riskerna

Påve Leo XIV har uppenbarligen bestämt sig för att AI-debatten inte ska lämnas åt Silicon Valley självt. Konflikten handlar i grunden om en klassisk maktkamp om vem som får definiera berättelsen kring en transformativ teknologi – Jensen Huang, vars företag bokstavligen bygger hårdvaran som driver hela AI-boomen, har uppenbara ekonomiska incitament att tona ner larmklockorna. Katolska kyrkan, som historiskt inte direkt är känd för att ligga i teknikfronten, har faktiskt en lång tradition av att engagera sig i etikfrågor som rör mänsklig värdighet, och Leo XIV verkar vilja positionera kyrkan som en motvikt till techbranschens optimism. Det påven syftar på är troligen de så kallade existentiella riskerna med AI – alltså scenarion där avancerade system kan hota mänsklig kontroll eller autonomi i bred bemärkelse – varningar som bland annat AI-pionjärer som Geoffrey Hinton och Yoshua Bengio, båda vinnare av Turingpriset (datavetenskapens nobelpris), drivit hårt. Det verkliga problemet är att när en av världens mest inflytelserika andliga ledare och en av teknikvärldens mäktigaste chefer offentligt bråkar om AI-risker, riskerar själva substansen i de legitima säkerhetsfrågorna drunkna i spektaklet.