Apokalyptiska världsbilder tävlar om Silicon Valleys själ
I Silicon Valley kämpar två filosofiska läger om hur man ska hantera AI:s risker: effective altruism (EA), som vill bromsa AI för att rädda så många människor som möjligt på lång sikt, och en rival med lika dramatisk syn på framtiden kopplad till bland annat Peter Thiel. EA har redan fäste i branschen – från Anthropic till AI-säkerhetsvakthunden METR – vilket gör debatten mer än akademisk.
Djupdykning
Silicon Valley har alltid haft en förkärlek för stora berättelser om mänsklighetens öde, men just nu kämpar två konkurrerande dommedagstänkanden om tolkningsföreträde i AI-debatten. Effective altruism, som länge var ett akademiskt kantfenomen, har fått rejält fäste eftersom dess anhängare sitter på nyckelpositioner hos allt från Anthropic till AI-säkerhetsorgan som METR – och när du sätter filosofer med domedagstänk i maktpositioner slutar det inte med välgörenhetsgalor. På den andra sidan finns Peter Thiels inflytande, som bygger på en helt annan mytologi: accelerationism och en nästan religiös tro på att teknologin ska bryta igenom alla begränsningar, inte bromsas av dem. För dig som jobbar med sociala medier är det här mer relevant än det verkar: de som formar plattformarnas policys, algoritmerna och content-moderingsreglerna är inte neutrala tekniker – de är djupt ideologiskt färgade av precis de här världsbilderna. Det de flesta missar är att när Meta, OpenAI eller Anthropic fattar beslut om vad som får synas och hur AI-verktyg i Creator Studio eller liknande plattformar beter sig, är det inte bara produktbeslut utan uttryck för vilken framtidsmytologi som vunnit den interna maktkampen. Den som bara följer plattformsuppdateringar på ytan men inte förstår de underliggande ideologierna kommer alltid att reagera för sent.