IMY granskar Arbetsförmedlingens AI-system
Integritetsskyddsmyndigheten (IMY) inleder en granskning av Arbetsförmedlingen och dess AI-system som avgör vilka stödinsatser arbetssökande erbjuds. Det intressanta här är att ett myndighets-AI som direkt påverkar människors möjligheter till jobb eller studier nu hamnar under tillsyn – ett område där fel beslut kan få stora konsekvenser för enskilda.
Djupdykning
Arbetsförmedlingen använder ett AI-system som i praktiken är med och avgör vilket stöd du får när du är arbetslös – och nu vill IMY, Sveriges dataskyddsmyndighet, titta närmare på hur det fungerar. Det handlar om en typ av automatiserat beslutsfattande där en algoritm värderar din situation och matchar dig mot insatser, något som GDPR ställer särskilt hårda krav på eftersom det direkt påverkar enskilda människors liv. Det de flesta missar i den här debatten är att problemet sällan är att AI:n används, utan att vi inte vet på vilka grunder den fattar sina bedömningar – om systemet är tränat på historisk data kan det reproducera gamla mönster av vem som "brukar" lyckas komma i arbete, vilket riskerar att missgynna redan utsatta grupper. Granskningen handlar alltså inte bara om dataskydd i teknisk mening, utan om grundläggande rättssäkerhet: har du rätt att förstå varför du fick just det stöd du fick, och vem är ansvarig när ett AI-system tar fel?