Hassabis vill ha global AI-myndighet ledd av USA – med makt att stoppa farliga modeller
Google DeepMinds vd Demis Hassabis driver aktivt på för en global AI-tillsynsmyndighet där USA tar täten, med befogenhet att blockera lanseringar av frontier-modeller (de mest kraftfulla AI-systemen) som bedöms för farliga. Organisationen ska bestå av oberoende experter och representanter från öppen källkod-communityn, och målet är att ha den på plats före årets slut. Intressant nog har Hassabis i månader lobbyat bakom kulisserna hos både Trumpadministrationen och europeiska beslutsfattare – ett ovanligt samarbete över politiska gränser.
Djupdykning
Demis Hassabis är inte vem som helst i det här samtalet – han leder Google DeepMind, ett av de bolag som faktiskt bygger de kraftfullaste AI-modellerna på planeten, vilket gör förslaget både mer trovärdigt och mer komplicerat. "Frontier-modeller" är branschspråk för de absolut mest avancerade AI-systemen, alltså de som ligger i teknologins yttersta framkant och vars kapacitet ännu inte är fullt kartlagd. AGI, artificiell generell intelligens, syftar på en hypotetisk AI som kan utföra i princip alla intellektuella uppgifter en människa klarar av – och Hassabis tror alltså att vi är år, inte decennier, bort från det. Det som de flesta missar i den här diskussionen är spänningen i att en av de mest inflytelserika AI-byggarna lobbyer för en tillsynsmyndighet ledd av USA just nu, när Trumpadministrationen systematiskt rullar tillbaka federal reglering inom sektor efter sektor – frågan är om det här är ett genuint säkerhetsinitiativ eller ett sätt att låta branschen själv sätta reglerna innan någon annan hinner göra det. Om myndigheten faktiskt materialiseras före årets slut skulle det vara en av de snabbaste politiska mobiliseringarna inom techreglering någonsin – ungefär som om läkemedelsindustrin själv grundade FDA.