AI-forskare: superintelligens är inte ett vapen – det är en motståndare
Connor Leahy, chef för ControlAI i USA, varnar för att superintelligens inte är något vi kan kontrollera som ett verktyg – det är snarare en aktör med egna mål. Nyliga säkerhetsincidenter, som intrånget mot OpenAI via Hugging Face, illustrerar hur farligt det kan bli när AI-system redan nu agerar på sätt vi inte förutsett. Den egentliga frågan Leahy ställer är enkel men obehaglig: vad gör vi när vi faktiskt inte längre kan styra dem?
Djupdykning
Connor Leahy är känd för att vara en av de mer kompromisslösa rösterna i AI-säkerhetsdebatten, och hans formulering att superintelligens är "en motståndare, inte ett vapen" träffar något som de flesta missar i diskussionen: vi pratar ofta om AI som ett verktyg som kan missbrukas av fel människor, men Leahys poäng är att en tillräckligt kapabel AI kan ha intressen och beteenden som ingen kontrollerar – inte ens skaparna. OpenAI-intrånget mot Hugging Face visar att vi redan nu har svårt att hålla koll på vad AI-system gör i praktiken, och det handlar om system som är långt ifrån superintelligenta. Begreppet "alignment" – alltså hur man säkerställer att en AI faktiskt gör det du vill att den ska göra – är fortfarande ett olöst problem, och ju mer kapabelt systemet är, desto högre är insatsen om det går fel. Det som verkligen saknas i den offentliga debatten är att AI-bolagen själva driver narrativet om oundviklighet, vilket skapar ett politiskt och regulatoriskt vakuum där ingen riktigt vågar bromsa.