Anthropics egna chefer tror på mer än 10% risk för mänsklighetens utrotning inom ett decennium

Computer Sweden

Evan Hubinger, som leder Anthropics alignment-forskning (arbetet med att göra AI säker), twittrade offentligt att han tror sannolikheten är över 10% att AI utrotar mänskligheten inom tio år – vilket fick hans vd Dario Amodei att publicera en essä om att bromsa AI-utvecklingen, med medhåll från både Sam Altman och Elon Musk. Vad som är fascinerande här är inte bara varningarna i sig, utan att kritikerna har flera trovärdiga förklaringar på en gång: regulatory capture, PR inför börsnoteringar, kapacitetsbrist – och att många AI-forskare faktiskt menar allvar med apokalypsscenarierna, vilket är viktigt att förstå för den som sitter och skriver lagar om det här.