Amazon skrotar AI-topplista efter missbruk bland anställda
Amazon stängde ner sin interna rankinglista som mätte medarbetarnas AI-användning efter att anställda började skapa meningslös AI-aktivitet bara för att klättra i tabellen. Tricksandet drev upp företagets kostnader när folk lät AI-agenter utföra onödiga uppgifter enbart för att förbruka fler AI-tokens. Ett tydligt exempel på hur incitament kan få fel utfall när man försöker gamifiera AI-adoption.
Djupdykning
Amazon upptäckte precis vad som händer när man gamifierar fel sak – anställda började köra meningslösa AI-uppgifter för att klättra på en intern rankinglista, vilket sköt kostnaderna i taket. Det här är ett perfekt exempel på Goodharts lag i praktiken: när ett mått blir målet slutar det vara ett bra mått. Företaget ville egentligen mäta produktiv AI-användning men landade i att belöna ren förbrukning av AI-tokens (de små enheter som räknas varje gång man använder AI), vilket ledde till att folk lät AI-agenter mala på med uppgifter som inte skapade något värde. Det visar hur svårt det är att mäta verklig produktivitet när det kommer till AI – är tusen meningsfulla AI-frågor bättre än en perfekt? Amazons bakslag speglar en större utmaning för alla företag som försöker integrera AI: hur vet man om personalen faktiskt blir mer produktiv eller bara ser upptagen ut på dashboarden?