Hur en felaktig AI-agent kan smitta hela systemet

arXiv cs.AI

Forskare har undersökt hur ett fel i ett enskilt AI-agentsystem kan sprida sig som en epidemi till övriga agenter i nätverket – ett beteende de kallar 'kollektiv kontrollförlust'. I tester visade sig normalt beteende orsaka skada i 0–5% av fallen, men efter att en 'smittad' agent injicerats steg siffran till 40–95%. Det intressanta är att systemet alltså kan se säkert ut i vardagen men vara extremt sårbart om en enskild agent börjar bete sig fel.