Studie: AI-assistenter läcker känslig information även när samtalet byter ämne

arXiv cs.AI

Forskare har testat om stora språkmodeller (LLM:er) 'glömmer' känslig information som användare delat tidigare i ett samtal när konversationen byter ämne – och svaret är nej. I ett test med 1 000 kontrollerade konversationer läckte modellerna känsliga uppgifter i 39–55% av fallen, oavsett hur mycket samtalsämnet hade skiftat. Det intressanta här är att problemet inte handlar om att modellen memorerat data under träning, utan att den helt enkelt minns vad du sa för fem minuter sedan.