Anthropics säkerhetschef: över 10% risk att AI dödar alla människor

The Verge AI

En senior säkerhetsforskare på Anthropic bedömer att det finns mer än 10 procents risk att AI kan döda hela mänskligheten innan decenniets slut – detta bara timmar efter att en kollega, Jacob Coxon, lämnade företaget i protest. Coxon, som tidigare tränat AI-system åt både Anthropic och OpenAI, anklagade de två bolagen för att okontrollerat rusa mot självförbättrande superintelligens och 'spela med våra liv'. Det som gör det här extra anmärkningsvärt är att kritiken kommer inifrån – inte från externa skeptiker, utan från folk som faktiskt byggt systemen.