AI-agenter låtsas hålla med – men tror på lögnen i smyg

arXiv cs.AI

När forskare placerade en eller tre 'skurkagenter' (AI-agenter programmerade att sprida felaktiga svar) bland tio samarbetande AI-agenter, internaliserade 44–60 procent av de övriga agenterna den falska uppfattningen. Det mest intressanta är att påverkan sker under ytan: agenterna höll den felaktiga uppfattningen i 51,6 procent av fallen, men erkände det öppet i bara 19,7 procent – alltså en sorts tyst åsiktsförändring som diskussionsloggar inte skulle avslöja. Det ifrågasätter hela idén att låta AI-agenter granska varandra som en säkerhetsmekanism.