Simulerade säkerhetstester av AI visar lovande resultat

arXiv cs.AI

Forskare har utvecklat en metod för att testa AI-säkerhetsspärrar (kontroller som hindrar en AI från att göra saker den inte borde) med hjälp av simulerade miljöer istället för riktiga system. Metoden, kallad SCE, förutspår säkerhetsutfall med ett genomsnittligt fel på bara 3,6 procentenheter jämfört med 10,1 för traditionella kontrollmiljöer. Det intressanta är att simuleringarna dessutom kräver under 5% av det datamaterial som verkliga tester behöver – alltså snabbare och billigare utan att tappa precision.