Hinton varnar: AI kan orsaka en Tjernobyl-liknande katastrof inom ett år
Geoffrey Hinton, en av AI-forskningens mest inflytelserika namn, varnar för att AI inom det närmaste året kan ligga bakom en allvarlig incident – exempelvis ett storskaligt strömavbrott eller ett kollaps i banksystemet. Det är en ovanligt konkret tidsram från någon med Hintons trovärdighet, och det säger en del om hur fort oron bland branschens egna veteraner eskalerar.
Djupdykning
Geoffrey Hinton är inte vem som helst – han delade Nobelpriset i fysik 2024 för sitt grundläggande arbete med neurala nätverk, alltså de matematiska strukturer som moderna AI-system bygger på, och lämnade Google 2023 just för att kunna tala fritt om riskerna. När han säger "Tjernobyl" menar han inte nödvändigtvis en katastrof driven av ond vilja, utan snarare det klassiska Tjernobyl-scenariot: ett system som folk trodde var under kontroll, som visade sig vara det inte. Det som de flesta missar i den här debatten är att Hintons oro inte handlar om science fiction-scenarion med superintelligens – han pratar om AI-system som redan existerar och som integreras i kritisk infrastruktur i en takt som vida överstiger vår förmåga att förstå hur de faktiskt beter sig. Ett strömavbrott eller ett banksystemskollaps låter dramatiskt, men det är egentligen ganska prosaiska system som styrs av allt mer autonoma AI-lager, ofta utan tydlig mänsklig övervakning i realtid. Det verkligt oroande är att en "Tjernobyl-händelse" inom AI troligen inte skulle se ut som en dramatisk filmscen – den skulle börja som ett till synes tekniskt fel som det tar veckor att förstå att AI var inblandat.