Välkommen till AGI-eran av AI-styrning
AI-utvecklingen har nu nått en punkt där artificiell generell intelligens (AGI) kräver helt nya former av styrning och reglering. Författaren menar att detta är en envägsdörr som mänskligheten passerat utan att vara tillräckligt förberedd för konsekvenserna.
Djupdykning
OpenAI:s nya o1-modell har inte bara löst fler matematikproblem – den har dragit bort mattan under hela AI-säkerhetsdebatten. När en modell plötsligt kan resonera, planera och till och med "tänka" i kedjor som vi inte kan följa, blir våra nuvarande regelverk ungefär lika användbara som ett paraply i en orkan. Det som gör det här särskilt obehagligt är att vi fortfarande diskuterar AI-reglering som om det handlar om förbättrade sökmotorer, medan vi egentligen står inför system som börjar likna digitala medarbetare med okänd agenda. EU:s AI Act och liknande lagar är byggda för den AI vi hade igår, inte den vi vaknade upp till i morse. Nu sitter regeringar världen över och inser att de försöker styra något de varken förstår eller kan förutse – som att reglera väder genom att förbjuda moln.