Margaret Atwood testade Claude – och kom bort besviken
Författaren Margaret Atwood, känd för bland annat 'The Handmaid's Tale', har provat AI-chatboten Claude exakt en gång och tyckte inte om resultatet – modellen gav fel svar om en brittisk detektivserie. Atwood sammanfattar problemet med AI som 'garbage in, garbage out', det vill säga att kvaliteten på svaren beror helt på vad systemet tränats på.
Djupdykning
Margaret Atwood är inte den första författaren att klaga på AI-hallucinationer, men hennes formulering sätter fingret på något som ofta glöms bort i debatten: LLM:er (stora språkmodeller) ljuger inte medvetet, de genererar statistiskt sannolika svar baserade på vad de tränats på – och om träningsdatan är skräp, blir outputen skräp. "Garbage in, garbage out" är ett gammalt datavetenskapligt uttryck som plötsligt känns mer relevant än någonsin. För dig som jobbar med sociala medier är Atwoods poäng mer praktisk än filosofisk. Många använder AI-verktyg för att faktakolla, ta fram bakgrundsmaterial eller skriva captions med specifika påståenden – och litar på att resultatet är korrekt för att det låter övertygande. Det är just det som är fällan: LLM:er är designade att vara koherenta, inte sanna. Det flesta missar att AI-fel är som mest riskabla på nischfrågor – precis som Father Brown-exemplet – där modellen har lite träningsdata men ändå genererar ett svar med samma självsäkerhet som om den berättade att Paris ligger i Frankrike. Ju mer specifikt du frågar, desto större är risken att du får ett välformulerat nonsensvar. Om publiken börjar förvänta sig att creators och redaktioner faktakontrollerar sina AI-verktyg lika noggrant som sina mänskliga källor, förändras hela arbetsflödet – och trovärdighet blir ett hårdare valutor än räckvidd.