Forskare visar hur offentliga diskussionsforum kan förgifta AI-träningsdata

arXiv cs.AI

Genom att posta innehåll i öppna diskussionsforum – tänk Reddit eller kommentarsfält – kan angripare smyga in skadligt material i de webbcrawlar som används för att träna stora språkmodeller (LLM:er). Forskarna introducerar också ett nytt analysverktyg kallat HalfLife för att mäta hur mycket sådant 'förgiftat' innehåll faktiskt överlever datarensningsstegen och når träningsdatan. Det intressanta här är att attackvektorn är vardaglig och redan existerande – ingen avancerad hackning krävs.