Debatten om AI-medvetande är en återvändsgränd
Retorik kring AI som 'upprorisk', 'självständig' eller 'övermänsklig' dominerar debatten – men MIT Technology Review argumenterar att det är en fälla som distraherar från faktiska risker och reglering. Teknikprofiler som Sam Altman, Dario Amodei och Demis Hassabis driver narrativet om närmast sentient AI, medan kritiker menar att det i grunden handlar om ett politiskt spel om vem som ska forma AI-policyn.
Djupdykning
Medan Silicon Valleys tyngsta aktörer debatterar om AI är medveten eller inte, händer något mer jordnära och konkret: makten över vad AI får och inte får göra konsolideras hos en liten grupp människor. Retorik om "rogue agents" och "superhuman systems" fungerar som en dimridå – den förflyttar fokus från verkliga frågor om ägande, kontroll och ansvarsutkrävande till en sci-fi-debatt om robotuppror. Det som kallas "autonomi" hos en AI-agent är i praktiken en designfråga, inte en existentiell egenskap: någon har programmerat in de beteendena, och någon tjänar pengar på dem. Paradoxalt nog gynnar skrämselpropagandan om okontrollerbara AI-system exakt de företag som påstår sig vara rädda för den – mer reglering tenderar att cementera de stora aktörernas dominans och stänga ute konkurrenter. Det de flesta missar är att "AI-medvetande" som debattämne är en politisk produkt lika mycket som en filosofisk fråga. Varje minut som spenderas på att diskutera om Claude eller GPT-4 lider är en minut som inte spenderas på att fråga vem som bestämmer över träningsdata, vem som bär juridiskt ansvar när något går fel, eller varför dessa system byggs överhuvudtaget.