Anthropics vd vill bromsa AI-utvecklingen – men är det trovärdigt?
Dario Amodei, vd för AI-företaget Anthropic, har publicerat ett essay där han uppmanar till att sakta ner utvecklingstakten för stora språkmodeller (LLM:er) med hänvisning till allvarliga risker med tekniken. Det intressanta är att Anthropic samtidigt är ett av de företag som driver utvecklingen framåt hårdast – vilket gör budskapet lite svårt att ta på helt fullt allvar.
Djupdykning
Dario Amodei – mannen som leder ett av världens mest kapitalstarka AI-bolag med en värdering på över 60 miljarder dollar – vill alltså sakta ner den teknik han själv bygger och säljer. Det är ungefär som om Volvo's VD skulle skriva ett öppet brev om att bilar är för farliga. Amodei är inte ensam: en växande fraktion inom branschen, ofta kallade "doomers", menar att stora språkmodeller (LLMs – de AI-system som driver saker som ChatGPT och Claude) utvecklas snabbare än vår förmåga att förstå eller kontrollera dem. Det som de flesta missar i den här debatten är att "bromsa" inte är en neutral teknisk åtgärd – det är djupt politisk, och den som lyckas definiera vad "säker utveckling" innebär får enormt mycket makt över vem som får bygga vad och i vilken takt. Ironin är att de stora aktörerna som Anthropic och OpenAI, just för att de redan är stora, har mest att vinna på reglering som stänger dörren för mindre konkurrenter.