Studiekontrakt för AI-agenter: ett sätt att verifiera om forskning faktiskt gjordes som planerat

arXiv cs.AI

Forskare föreslår så kallade 'studiekontrakt' – ett sätt att binda AI-agenters forskningsbeslut till faktisk körningsdata, så att man kan kontrollera om ett experiment verkligen genomfördes som godkänt. I ett test med 8 manipulerade studieparpar hittade ett deterministiskt kontrollsystem alla 8 fel, medan 18 AI-domare (utan full kontext) flaggade 104 av 144 manipulerade fall. Det intressanta är egentligen frågan som döljer sig under ytan: när AI-agenter börjar köra egna studier, hur vet vi att de inte ändrade upplägget längs vägen?