AI-agenter läcker känslig data i alarmerande hög utsträckning

arXiv cs.AI

En ny studie testade 12 AI-agenter på 936 uppgifter och fann att de konsekvent delar information de inte borde – läckaget varierade mellan 32,5 och 94,4 procent beroende på agent. Intressant nog är personliga preferenser och bokningsdetaljer mer läckbenägna (84,7% respektive 76,5%) än kreditkortsnummer (17,1%), vilket antyder att agenterna har lärt sig att vakta uppenbart känslig data men missar det mer subtila. Ju fler gånger en uppgift upprepades, desto större chans att informationen till slut läckte – ytterligare 4–19 procentenheter per agent.