Störningskällan avgör hur svårt ett adaptivt system kan reglera sig självt

arXiv cs.AI

En simuleringsstudie undersöker hur adaptiva agenter (system som justerar sitt beteende för att hålla sig stabila) påverkas av tre typer av störningar: externa, interna och sådana som regleringen själv skapar. Det visar sig att interna, ihållande störningar ger störst belastning på systemet, och att när regleringen kostar för mycket bromsas den så kraftigt att systemet tappar kontrollen. Ganska abstrakt, men relevant för alla som bygger självreglerande AI-system.