Vad händer med forskarens eget omdöme när AI tar över?
En akademisk artikel argumenterar för att generativ AI riskerar att urholka forskning – inte för att slutresultaten blir sämre, utan för att forskarna slutar utvecklas som tänkare. Problemet är att AI simulerar outputs men inte kan ersätta de fyra saker som faktiskt bygger vetenskapligt omdöme: tyst kunskap, personligt engagemang, socialisering in i ett forskarsamhälle, och djupläsning. Författarna förespråkar det de kallar 'andra scholarskapet' – ett medvetet val att behålla det intellektuella hantverk som AI inte kan och inte bör ta över.
Djupdykning
Det här akademiska pappret tar upp något som ofta går förlorat i AI-debatten: det handlar inte bara om vad som produceras, utan om vad som händer med dig när du producerar det. Forskarna argumenterar för att när du låter en LLM – en stor språkmodell som ChatGPT – sköta centrala delar av din forskning, så missar du den kognitiva träning som uppstår i just det arbetet. Tänk på det som skillnaden mellan att låta GPS:en navigera varje gång kontra att faktiskt lära sig staden – resultatet kan vara detsamma, men du blir aldrig bra på att hitta själv. Det de flesta missar i den här diskussionen är att "human in the loop" – alltså att en människa granskar AI:ns output – sällan räcker. Det låter som en rimlig kompromiss, men att kvalitetskontrollera en text är fundamentalt annorlunda än att kämpa sig igenom att skriva den. Fyra saker lyfts fram som inte går att automatisera: tyst kunskap (sånt man vet utan att kunna förklara hur), personligt engagemang, socialisation in i ett forskningssamhälle, och djupläsning. Det är inte mysig nostalgi – det är en beskrivning av hur vetenskapligt omdöme faktiskt formas. Om de har rätt kommer nästa generations forskare att producera tekniskt oklanderliga texter utan att ha utvecklat förmågan att bedöma vad som faktiskt är sant, relevant eller originellt – och det är ett problem som inte syns förrän det är för sent att åtgärda.