Nytt testramverk avslöjar hur svårt det är för AI-agenter att verkligen glömma känslig data

arXiv cs.AI

Forskare har skapat MemCut, ett testramverk med 456 handgjorda 'hemligheter' för att mäta hur väl AI-agenter med långtidsminne kan radera känslig information på användarens begäran. Resultaten är lite oroande: även efter aktiv radering kvarstår 39–76% av informationen i systemet, eftersom spår av hemligheter ofta finns dolda i indirekta meddelanden som aldrig nämnde dem direkt. Det visar att 'rätten att bli glömd' är tekniskt betydligt knepigare för AI-agenter än man kanske hoppas.