Amazon-anställda använder AI för struntuppgifter för att få bättre statistik
Amazons anställda fuskar med företagets AI-verktyg Meshclaw genom att automatisera oviktiga uppgifter, bara för att nå målet att 80 procent av utvecklarna ska använda AI varje vecka. Det har skapat en kultur där vissa fokuserar mer på att maximera användningsstatistiken än att faktiskt använda AI-verktygen effektivt. Samtidigt oroar sig en del för säkerhetsrisker och felaktiga resultat.
Djupdykning
Amazon har skapat en klassisk fälla genom att mäta fel sak. När ledningen sätter kvantitativa mål för AI-användning istället för faktiska produktivitetsvinster, får de naturligtvis anställda som gaming:ar systemet med meningslösa automatiseringar. Det här är Goodhart's lag i praktiken - "när ett mått blir ett mål slutar det vara ett bra mått". Det riktigt problematiska ligger i att Amazon riskerar att förstöra förtroendet för AI internt innan tekniken ens hunnit mogna. När anställda tvingas använda verktyg slumpmässigt för att nå arbiträra procenttal, kommer de naturligtvis att associera AI med byråkrati och prestandateater snarare än faktisk nytta. Samtidigt avslöjar det här en djupare sanning om hur svårt det är att mäta kunskapsarbete - även för en av världens mest datafokuserade företag. Amazon kan spåra varje klick i sina lager, men när det gäller kreativ problemlösning och kodning faller de tillbaka på samma trubbiga mått som vilken konsultfirma som helst.