Varför ska människor forska när AI gör det bättre?
En ny vetenskaplig artikel argumenterar för att forskning fortfarande bör drivas av människor – inte för att AI saknar förmåga, utan för att kollektiv mänsklig förståelse i sig är ett mål med vetenskapen. Författarna föreslår ett tvådelat test för när AI får ta över en forskningsuppgift: dels måste forskarsamhället kunna förklara och ifrågasätta resultaten, dels måste människor behålla kontrollen över vilka frågor som ens är värda att ställa. Det intressanta är att ramverket gäller även om AI skulle bli överlägsen på alla punkter – det handlar om vem vetenskapen egentligen är till för.
Djupdykning
Forskare har länge debatterat AI:s roll i vetenskap, men nästan alltid utifrån frågan om vad AI *kan* göra – inte varför människor överhuvudtaget bör hålla på med forskning. Det här pappret vänder på logiken och säger att innan vi bestämmer hur AI ska användas måste vi bestämma vad vetenskap faktiskt är till för, och svaret de landar i är att vetenskap handlar om kollektiv mänsklig förståelse, inte bara om att producera korrekta svar. Det skapar ett tvådelat filter: AI får ta över uppgifter så länge forskarsamhället fortfarande kan förklara och försvara resultaten (förståelse), och så länge människor bestämmer vilka frågor som är värda att ställa och vad svaren betyder (riktning). Det som de flesta missar i den här debatten är att "AI gör det bättre" och "vi borde låta AI göra det" är två helt separata påståenden – ett handlar om kapacitet, det andra om syfte. Om vetenskapens poäng är att bygga ett kollektivt mänskligt kunskapskapital snarare än att bara generera sanna påståenden, då är en vetenskap som fungerar som en svart låda ett misslyckande oavsett hur korrekta resultaten är. Det är ungefär som skillnaden mellan att ha Google Maps och att faktiskt förstå hur man navigerar – du kan komma fram, men du har inte lärt dig något som håller när kartan slutar fungera.