AI-forskningsartiklar blir bättre – och det är ett problem för forskare
En forskare upptäckte att hans artikel från 2017 plötsligt citerades hundratals gånger, från några dussin tidigare. Orsaken visar sig vara att AI-system nu kan skriva bättre forskningsartiklar och automatiskt hitta relevanta referenser, vilket skapar problem med artificiellt uppblåsta citeringsstatistik inom akademin.
Djupdykning
Forskningspapper från 2017 får plötsligt hundratals citeringar – men det är AI-system som står bakom, inte mänskliga forskare. Peter Degen upptäckte att hans tidigare chef's gamla studie citerades massivt av forskare som använder AI-verktyg för att skriva sina papers, vilket skapar en falsk bubbla av akademisk relevans. Problemet är att AI-system tenderar att återanvända samma källor om och om igen, vilket snedvrider hela den akademiska ekosystemet där citeringar traditionellt mätt verklig påverkan. För oss som jobbar med sociala medier känns det här bekant – det är samma mekanism som när algoritmer fastnar i feedback-loopar och pumpar upp irrelevant innehåll. När AI börjar dominera innehållsproduktion inom akademi, precis som det gör på sociala plattformer, riskerar vi att missa de verkligt viktiga rösterna i bruset av algoritmiskt genererat material.