Anthropic föreslår global paus för AI-utveckling
AI-företaget Anthropic föreslår en global paus för AI-utveckling eftersom de ser risker med att AI-system snart kan förändras utan mänsklig inblandning. Företagets vd Dario Amodei har varnat för detta tidigare, men enligt Wall Street Journal har varningarna hittills fallit för döva öron.
Djupdykning
Anthropics förslag kommer från en av de mest respekterade aktörerna i AI-branschen, vilket gör det här mer än bara ännu en varning från sidlinjen. Företaget byggde Claude som en direkt konkurrent till ChatGPT och har profilerat sig som säkerhetsmedvetet, så när de säger "vi behöver bromsa" betyder det att de bokstavligen föreslår att sakta ner sin egen tillväxtmöjlighet. Det verkligt intressanta är tidpunkten - detta kommer samtidigt som AI-kapplöpningen intensifieras och investeringar strömmar in i branschen. Anthropic erkänner i praktiken att tekniken utvecklas snabbare än vår förmåga att förstå konsekvenserna, särskilt när AI-system börjar modifiera sig själva utan mänsklig översyn. Men en "global paus" kräver internationell samordning på en nivå vi knappt kan få till stånd för klimatfrågor eller kärnvapen. Kina och andra nationer kommer knappast att pausa sin utveckling för att USA ska hinna ikapp regulatoriskt.