Reddit använder AI för att moderera forum
Reddit lanserar ett verktyg kallat 'Rules Hub' som använder LLM:er (stora språkmodeller) för att automatiskt moderera inlägg och kommentarer på plattformen. Moderatorer kan själva ställa in vilka regler som ska gälla och vad som ska hända när de bryts – AI:n tolkar sedan om innehållet faktiskt bryter mot regelns syfte, inte bara orden. Verktyget rullas ut till fler subreddits nu, med en bredare lansering planerad senare i år.
Djupdykning
Reddit har alltid haft ett komplext förhållande till moderering – plattformen är byggd på frivilliga moderatorer som lägger ner enormt många obetalda timmar på att hålla communities i schack, och det har länge varit en källa till friktion och utbrändhet. Det som skiljer Rules Hub från tidigare automatiserade verktyg är att det använder LLMs (stora språkmodeller, alltså samma typ av AI som driver ChatGPT) för att förstå *intentionen* bakom en regel snarare än att bara matcha nyckelord – så om en subreddit har regeln "inga personangrepp" behöver moderatorn inte lista varje möjlig variant av ett förolämpning, AI:n fattar andan i regeln. Det låter smidigt, men det skjuter också en del makt uppåt i kedjan: det är Reddit som i praktiken bestämmer hur AI:n tolkar regler, inte de enskilda mod-teamen som byggt upp sina communities under år. Det de flesta missar i den här typen av nyheter är att problemet med moderering sällan är tekniskt – det är politiskt. Reddit-moderatorer slutade inte med sina massprotester 2023 för att de saknade rätt verktyg, de protesterade för att de upplevde att Reddit tog ifrån dem kontroll. Att nu lägga in ett AI-lager som moderatorer inte fullt ut kan inspektera eller styra löser inte det underliggande förtroendeproblemet, det förflyttar det bara.