AI-anställda ber regeringen bromsa — medan deras arbetsgivare gasar

"Det är inte en abstrakt risk — det är ett scenario som ledningen i dessa bolag aktivt siktar mot."
Det finns något nästan komiskt över situationen: anställda på världens ledande AI-labb skriver ett gemensamt upprop till den amerikanska regeringen och ber om bromshjälp, samma vecka som deras arbetsgivare meddelar att de spenderar mer på AI-infrastruktur än någonsin.
Uppropet, som signerats av anställda från OpenAI, Anthropic, Google, Meta, Microsoft, Mistral och Thinking Machines, handlar om en specifik oro: att AI-systemen snart kan börja automatisera själva AI-forskningen. Det är inte en abstrakt risk — det är ett scenario som ledningen i dessa bolag aktivt siktar mot. Och poängen i uppropet är just det: om det händer, accelererar utvecklingen i en takt som ingen reglering hinner ifatt.
Det intressanta är inte att folk är oroliga. Det intressanta är vem det är. Det är inte externa kritiker, akademiker eller politiker. Det är folk som sitter inuti maskinrummet och ändå väljer att säga det högt.
Samtidigt, på Wall Street: Google meddelade att capex för året nu väntas landa på 195-205 miljarder dollar. Förra kvartalets prognos låg på max 190 miljarder. Det låter som en liten justering tills man inser att hela det nya intervallet ligger ovanför det gamla taket. Marknaden reagerade negativt, och förståeligt nog: om Googles ekonomiavdelning inte kan hålla koll på sina egna investeringsplaner kvartal till kvartal, antyder det att de bygger utan att veta vad de bygger mot.
Det väcker en rimlig fråga för alla som följer AI-infrastrukturspåret: om världens mest lönsamma reklambolag inte räknar hem sina AI-investeringar på kort sikt, och deras egna ingenjörer ber regeringen sakta ner, vad exakt är det alla springer mot?
Svaret, troligen, är att ingen riktigt vet. Och det är både det spännande och det oroande med den här veckan.


