Ny metod stoppar informationsläckor i samtal mellan AI-agenter

arXiv cs.AI

Forskare har identifierat ett smygande integritetsproblem i system där flera AI-agenter kommunicerar med varandra: även om slutresultatet är säkert kan själva valet av formulering i mellanliggande meddelanden avslöja känslig information. De föreslår en 'selection-invariant communication compiler' (SICC) – ett verktyg som begränsar hur agenter formulerar sig utan att styra exakt vad de säger. I tester på 132 AgentLeak-körningar och 100 LangGraph-uppgifter bevarade metoden full funktionalitet utan att läcka extra information.