Forskare bevisar matematiskt att extern AI-kontroll kommer att misslyckas

arXiv cs.AI

Nya forskningsresultat från kontrollteorin visar att externa säkerhetsåtgärder (som regler och övervakning) strukturellt inte kan hålla AI-system säkra när de blir tillräckligt kapabla. Studien identifierar fyra krav som alla framtida säkerhetslösningar måste uppfylla: säkerheten måste vara inbyggd i systemet själv, inte beroende av yttre kontroll.