Slumpmässig projektion skyddar känslig data i RAG-system

arXiv cs.AI

Forskare föreslår en enkel metod för att skydda privat data i RAG-system (där AI-modeller hämtar information från externa databaser) – genom att använda slumpmässig projektion på både databas- och frågeembeddings. Metoden visar sig prestera bättre än tidigare integritetstekniker baserade på differential privacy, samtidigt som den ger jämförbart skydd mot attacker. Det intressanta är hur lite som krävs: en elegant matematisk genväg snarare än tung krypteringsinfrastruktur.