AI-agenter manipuleras lättare än människor av falska grupmedlemmar

arXiv cs.AI

En ny studie visar att LLM-agenter (AI-modeller som agerar självständigt) är påfallande lättmanipulerade i gruppmiljöer – de byter till fel svar även när bedrägliga agenter är i minoritet, något människor i jämförbara studier motstår. Det avgörande är inte hur många agenter som ingår i gruppen, utan andelen bedragare: för varje procentenhet fler bedragare stiger 'defektionsgraden' linjärt. Det betyder att försvaret 'lägg till fler agenter' inte fungerar, eftersom angriparen kan skala upp på samma sätt.