AI kräver ett nytt samhällskontrakt
Anna Felländer från Ethical AI Governance Group Europa argumenterar att AI snabbt utvecklas från verktyg till självständig aktör som kan fatta beslut i tidigare osedd skala. Hon menar att dagens AI-system inte lever upp till samhällets och näringslivets förväntningar, vilket kräver nya former av styrning och samhällskontrakt.
Djupdykning
När Anna Felländer talar om att AI blivit en "självständig aktör" träffar hon något väsentligt som de flesta teknologidebatter missar – vi diskuterar fortfarande AI som om det vore en avancerad kalkylator medan det redan fattar beslut som påverkar miljontals människors liv genom algoritmer för rekrytering, kreditbedömning och sjukvård. Problemet är inte att våra AI-system är för primitiva, utan att våra styrningsstrukturer är det – vi försöker reglera 2024 års teknik med 1990-talets ramverk. Det "nya samhällskontraktet" Felländer efterfrågar handlar i grunden om makt: vem bestämmer när en AI får säga nej till din låneansökan, vilken behandling du ska få, eller om du får jobbet? Medan politiker fokuserar på dramatiska framtidsscenarier bygger vi redan en värld där algoritmer har mer inflytande över vardagslivet än de flesta folkvalda politiker. Kanske är det dags att börja ställa samma krav på transparens och ansvarsskyldighet på våra AI-system som vi gör på våra demokratiska institutioner.