AI-giganternas bromsklubba: säkerhetsakt eller kartellteater?

Dario Amodei publicerade under helgen ett inlägg med titeln "We Must Pace the Frontier" där han lägger fram tre konkreta förslag: inbäddade tredjepartsgranskare som kan verifiera säkerhetsåtaganden, koordinering mellan ledande AI-företag i demokratiska länder, och ett globalt avtal om att sakta ned takten. Sam Altman, Demis Hassabis och — något oväntat — Elon Musk ställde sig ungefär bakom tankegångarna.
Problemet med att kalla det här ett säkerhetsprojekt är att det passar alldeles för bra som affärsstrategi. De fyra personerna som just kom överens om att "paca fronten" råkar också leda de fyra företag som faktiskt befinner sig på den fronten. Tredjepartsgranskare och internationella avtal låter rimligt i teorin, men i praktiken är de verktyg som stora, etablerade aktörer klarar av att navigera — och som effektivt stänger dörren för mindre konkurrenter och open source-rörelsen. Det är en klassisk moat-strategi, inlindad i säkerhetsretorik.
Microsoft lade samtidigt till sin röst i kören genom att publicera en 37-sidig uppförandekod för AI. Där slår man fast att modeller inte är medvetna, inte ska designas för att imitera medvetande, och att "människor är viktigare än AI". Att en 37-sidig PDF är Microsofts svar på existentiella AI-risker är antingen modigt eller PR — troligen lite av båda.
Så har man Trump, som ringde upp Jensen Huang live på scen under All-In Summit och kallade hela oron för AI-utveckling för en "bluff". Robotarna tar inte över, försäkrade presidenten, från en högtalare som Huang höll framför en stor publik. Det är ungefär den politiska motvikten till Amodeis essay: två olika världsbilder, ingen av dem särskilt nyanserad.
Det som faktiskt är intressant här är inte om Amodei har rätt eller fel om AI-risker. Det är att branschens mäktigaste aktörer nu öppet förespråkar reglering av sig själva, på villkor de i stor utsträckning definierar själva. Det är en förskjutning. Och den som bygger något i den här sektorn bör ha en åsikt om vart den förskjutningen leder — för nästa regulatoriska ramverk skrivs förmodligen av de som sitter vid bordet nu.



