AI-rekryteringsverktyg kan leda till rasistisk bias och systematisk diskriminering
Forskning från Stanford visar att AI-verktyg för rekrytering ofta diskriminerar mot vissa etniska grupper genom systematiska fördomar inbyggda i algoritmer. Studien påvisar att dessa system kan förstärka befintliga ojämlikheter på arbetsmarknaden snarare än att skapa mer rättvis rekrytering.
Djupdykning
AI-rekryteringsverktyg som lovar att göra anställningsprocesser mer objektiva skapar istället nya former av systematisk diskriminering. Verktygen tränas ofta på historisk data som redan speglar befintliga fördomar – om tidigare anställda främst varit vita män kommer AI:n att favorisera liknande kandidater. Samtidigt missar många företag att algoritmerna kan diskriminera på subtila sätt, genom att exempelvis avfärda namn som låter "utländska" eller CV:n från vissa universitet. Det verkligt problematiska är att denna bias döljs bakom en fasad av teknisk objektivitet. När en människa gör en partisk bedömning kan vi ifrågasätta den, men när en algoritm säger nej framstår det som datadrivet och rationellt. Företag outsourcar i praktiken sitt ansvar för rättvis rekrytering till system de knappt förstår, vilket gör diskrimineringen både mer systematisk och svårare att upptäcka än traditionella fördomar.