Varning: AI i offentlig sektor urholkar vår förmåga att ifrågasätta beslut
Debattörerna Charlotta Kronblad och Olgerta Tona varnar för att AI redan nu införs i offentlig verksamhet på ett sätt som gradvis minskar vår förmåga att förstå och ifrågasätta systemens beslut. Det verkliga problemet uppstår när vi inte längre har kunskapen att granska resultaten – och då har vi i praktiken lämnat över makten utan att märka det.
Djupdykning
Charlotta Kronblad och Olgerta Tona pekar på något som ofta drunknar i debatten om AI-risker: det handlar inte om dystopiska scenarier utan om den vardagliga, nästan sömniga processen där mänskligt omdöme tyst fasas ut. När en handläggare på Försäkringskassan börjar lita mer på ett algoritmförslag än sin egen bedömning – inte för att algoritmen nödvändigtvis har rätt, utan för att det är enklare och känns tryggare – har något fundamentalt förändrats utan att någon fattade ett aktivt beslut om det. Det kallas ibland för "automation bias", alltså vår tendens att överlita oss på automatiserade system även när vi borde ifrågasätta dem. Det verkliga problemet är inte att AI fattar dåliga beslut, utan att vi förlorar den institutionella kompetensen att ens märka när det händer – om tio år kan det saknas folk som vet hur bedömningen egentligen ska göras. Offentlig sektor är särskilt sårbar här eftersom incitamenten ser annorlunda ut än i privat sektor: effektivitet och budgetar premieras, medan det är svårare att sätta ett pris på att en människa faktiskt förstår varför ett beslut fattades. Den som betalar priset när systemet går fel är sällan organisationen – det är medborgaren som nekades bidrag av en black box ingen längre kan förklara.