Kan AI verkligen utgöra ett hot mot mänskligheten?
Anställda på världens ledande AI-laboratorier menar att avancerad AI på sikt kan hota mänsklighetens existens – och MIT Technology Review har samlat experter för att granska hur reell den risken faktiskt är. Det intressanta här är inte bara vad man tror, utan varifrån dessa farhågor kommer och om de håller för en kritisk granskning.
Djupdykning
Frågan om AI kan utplåna mänskligheten har länge behandlats som science fiction, men när det är de egna anställda på OpenAI, Google DeepMind och Anthropic som höjer varningsflaggorna blir det svårare att avfärda det som paranoia. Det som kallas "existentiell risk" inom AI-säkerhetskretsar handlar inte om Terminator-scenarion, utan om mer subtila problem: att ett tillräckligt kraftfullt AI-system optimerar mot ett mål på sätt vi inte förutsett, och att vi i det läget saknar möjlighet att stänga av det eller korrigera kursen. Det som de flesta missar i den här debatten är att det inte egentligen är ett tekniskt problem i första hand — det är ett kontrollproblem, och vi bygger ut kapaciteten långt snabbare än vi bygger ut verktygen för att förstå vad som händer inuti systemen. Ironiskt nog är de mest trovärdiga rösterna för försiktighet just de människor med mest incitament att köra på: forskarna och ingenjörerna som faktiskt bygger det här, och som ändå väljer att larma offentligt. Det liknar mer kärnfysikernas interna debatter på 1940-talet än techbranschens vanliga hype-cykel — och den jämförelsen borde göra oss lite mer ödmjuka inför hur den historien slutade.