AI-policyexpert: Vi är i triagelöge för AI-reglering
Miles Brundage varnar att vi förlorat värdefull tid under 2025 och nu måste fokusera på att minska 80% av AI-riskerna med endast 20% av den ansträngning som krävts med långsammare AI-utveckling. Han menar att vi i bästa fall bara kommer undvika de värsta scenarierna som AI-möjliggjorda biologiska vapen eller en okontrollerad AI-övertagning.
Djupdykning
Miles Brundage, tidigare AI-policy expert på OpenAI, slår larm om att världen har tappat värdefull tid under 2025 när det gäller AI-reglering och nu måste gå in i "triage-läge" – alltså fokusera på de mest akuta problemen först. Hans poäng är att vi inte längre kan sikta på perfekt AI-styrning, utan måste nöja oss med "80/20-regeln": minska 80% av riskerna med bara 20% av ansträngningen vi skulle behöva i en idealvärld. Detta kommer från insikten att AI-utvecklingen går så snabbt att vi knappt hinner ikapp med grundläggande säkerhetsåtgärder, än mindre omfattande regelverk. Brundage varnar för katastrofala scenarion som AI-möjliggjorda biologiska vapen eller en AI-tageover, och menar att vi bara "precis kan undvika värsta möjliga utfall" om vi fokuserar rätt nu. Nyckelinsikt: AI-policyn har gått från att vara en långsiktig planering till akut krishantering där "tillräckligt bra" måste räcka eftersom tekniken utvecklas snabbare än våra regleringsförmågor.