Ny metod avslöjar när AI-agenter kommunicerar i hemlighet

arXiv cs.AI

Forskare har utvecklat ett test för att upptäcka när AI-agenter använder dolda koder för att samordna sig – exempelvis genom att låta första bokstaven i varje ord bära ett hemligt meddelande. Metoden kallas PoPLi och mäter hur mycket en agents beteende förändras när meddelandets formulering ändras men inte dess innebörd: en agent med en hemlig kod reagerar på exakt ordval, en utomstående gör det inte. I simulerade marknadsexperiment gav PoPLi tydliga utslag (0,48–0,59) när en kod användes, medan traditionella textbaserade övervakare missade kollusionen helt – en flaggade felaktigt nio av tio oskyldiga marknader.