Forskare kartlägger hur AI skulle kunna hota mänsklighetens överlevnad

arXiv cs.AI

En ny analys identifierar flera vägar som avancerad AI skulle kunna leda till mänsklig utrotning eller permanent maktförlust – och det krävs varken medvetande eller fientliga avsikter hos AI-systemen. Riskerna kategoriseras i fyra huvudspår: autonomt feljusterade mål, skadlig användning av människor, organisatoriska misslyckanden och kapprustning vid driftsättning. Det som är intressant är att forskningen medvetet undviker att beskriva hur man faktiskt orsakar skada – fokus ligger på att hitta mätbara varningssignaler och defensiva forskningsfrågor.