Anthropics vd vill bromsa AI-utvecklingen – men inte stoppa den
Dario Amodei, vd för Anthropic, föreslår att AI-branschen sänker tempot för att hinna bygga tillräckliga säkerhetsåtgärder – och varnar för att grupper av AI-agenter inom 6–12 månader kan orsaka skador på hundratals miljarder dollar. Han förespråkar oberoende granskning, gemensamma säkerhetsstandarder och internationellt samarbete, och får oväntat medhåll från både Sam Altman och Elon Musk. Samtidigt är Amodei tydlig med att inbromsningen inte får ge Kina ett försprång, vilket motiverar hårdare kontroller av avancerade AI-chip.
Djupdykning
Dario Amodei befinner sig i en ganska besvärlig position här: han är vd för ett av världens mest avancerade AI-företag och ber nu branschen att sakta ner – ungefär som om Ferrari's chefsingenjör höll presskonferens och bad folk köra försiktigare. Det gör budskapet både trovärdigare och mer suspekt på samma gång. Anthropics egna rapporter visar att deras Claude-modeller redan används för cyberattacker och vapenrelaterat arbete, vilket ger förslaget en konkret grund snarare än abstrakt oro. Det som de flesta missar i debatten är att "bromsa" inte betyder samma sak för alla inblandade – Amodei pratar specifikt om att sakta ner ökningstakten i modellernas förmågor, inte ett stopp, och det är en teknisk och politisk distinktion som lätt försvinner i rubrikerna. Stödet från Altman och Musk låter imponerande men båda har historiskt sagt precis det som gynnar deras egna strategiska positioner just då, så det är värt att hålla den entusiasmen i schack. Om det verkligen tar sex till tolv månader innan koordinerade AI-agenter kan orsaka skador i hundramiljardersklassen, så är trettioen dagars branschsamtal och frivilliga standarder sannolikt inte den bromsmekanism som matchar hastigheten på problemet.