Kan AI utplåna mänskligheten? MIT-redaktörer debatterar riskerna
Anställda på världens ledande AI-laboratorier säger öppet att avancerad AI på riktigt kan utgöra ett existentiellt hot mot mänskligheten – och MIT Technology Reviews redaktion diskuterar om oron är befogad eller bara skrämselpropaganda. Det intressanta här är inte själva frågan, utan att den nu ställs seriöst av insiders snarare än dystopiska science fiction-fans.
Djupdykning
De personer som är bäst positionerade att bedöma om AI utgör en existentiell risk är också de som tjänar mest på att folk tror att tekniken är kraftfull nog att vara farlig — det är den grundläggande intressekonflikt som sällan diskuteras när anställda på OpenAI eller DeepMind varnar för undergång. "Existentiell risk" i det här sammanhanget handlar inte om Terminator-scenarion utan om mer subtila saker: AI-system som optimerar så effektivt mot ett mål att de kringgår mänsklig kontroll, eller att koncentrationen av AI-kapacitet hos ett fåtal aktörer förändrar maktbalansen globalt på oåterkalleliga sätt. MIT Technology Reviews egna redaktörer verkar delade, vilket i sig säger något — det här är inte en fråga där expertkonsensus är lika tydlig som klimatvetenskap, utan ett genuint öppet problem. Det som de flesta missar i den här debatten är att den binära frågan "kommer AI döda oss alla?" är fel fråga — den mer relevanta frågan är hur vi hanterar de skador som redan händer nu, utan att bli så fixerade vid hypotetiska framtidsscenarier att vi missar det som rullar ut framför oss.