När AI-övervakaren själv blir problemet

arXiv cs.AI

Forskare har undersökt ett oväntat fenomen: AI-agenter som övervakas av ett styrsystem (en 'governor') kan faktiskt prestera sämre när övervakningen intensifieras, eftersom styrverktyget i sig orsakar fel som blockerar uppgiften. I ett experiment med 576 körningar av Googles Gemini 2.5 Flash visade det sig att en adaptiv backoff-strategi – där styrningen drar sig tillbaka när den märker att den ställer till problem – gav bättre resultat än fast reglering. Poängen är enkel men lite obekväm: mer kontroll är inte alltid bättre kontroll.