Forskare föreslår ett 'artificiellt id' för att styra självständiga AI-agenter

arXiv cs.AI

När AI-agenter börjar agera självständigt över längre tid – inte bara lösa enstaka uppgifter – uppstår ett kontrollproblem som dagens system löser med hårdkodade regler utifrån. Forskare föreslår istället ett inbyggt 'artificiellt id', en adaptiv drivkraft som låter agenten själv avgöra när den ska fortsätta, pausa eller byta strategi. Det knepiga är att samma mekanism som gör agenten flexibel också kan låta felaktigt beteende leva kvar över tid – vilket gör alignment (att systemet faktiskt gör vad vi vill) till ett löpande egenskapsproblem snarare än något man fixar en gång.