FN: AI-reglering kan inte vänta på fullständig kunskap om riskerna
FN:s vetenskapliga panel varnar att regeringar måste börja reglera alltmer kapabla AI-agenter redan nu – innan vi vet exakt vilka riskerna är. Rapporten lanseras i samband med FN:s generalförsamling i New York, där USA och Kina också håller separata samtal om AI, och generalsekretare António Guterres har uppmanat världens länder att samarbeta för att undvika en kapplöpning mot lägsta möjliga säkerhetsnivå.
Djupdykning
FN:s vetenskapliga panel slår nu fast något som länge varit kontroversiellt i AI-debatten: vi behöver inte vänta på fullständig vetenskaplig konsensus för att börja reglera. Det är ett markant skifte från hur teknikreglering traditionellt fungerat, där bevisbördan legat på dem som vill bromsa utvecklingen. AI-agenter, alltså system som självständigt kan planera och utföra uppgifter utan mänsklig input för varje steg, accelererar snabbare än vår förståelse av vad de faktiskt kan ställa till med. Att FN nu sätter detta på dagordningen just under General Assembly, samtidigt som USA och Kina för separata samtal om AI, signalerar att det geopolitiska spelet om vem som sätter spelreglerna är i full gång. För dig som jobbar med sociala medier och content: det som de flesta missar är att den här typen av FN-rapporter inte bara är bakgrundsbrus för policymänniskor. De formar direkt hur plattformar som Meta och TikTok kommer att behöva dokumentera och begränsa sina egna AI-verktyg, inklusive de algoritmer och automationsfeatures du redan använder idag för schemaläggning, targeting och generering av content. Nästa gång din plattform plötsligt ändrar hur ett AI-verktyg fungerar eller lägger till nya användarvillkor, är chansen stor att det är just det här trycket som ligger bakom.