Nytt verktyg gör AI-riskbedömningar mer transparenta under EU:s AI-lag

arXiv cs.AI

Forskare har byggt ett öppet utvärderingssystem kallat Systemic Risk Index, som mäter hur farliga stora AI-modeller kan vara – kopplat direkt till EU:s AI-akts krav på så kallade GPAI-modeller (kraftfulla generella AI-system). Systemet testar 18 modeller mot 19 publika riktmärken inom fyra riskkategorier, och ett intressant fynd är att riskpoängen sjunker med 14 till 37 enheter beroende på om man tittar på genomsnitt eller värsta tänkbara scenario – vilket visar hur lätt det är att dölja verklig risk bakom snittdata. En interaktiv dashboard låter vem som helst följa hur varje riskbetyg faktiskt motiveras, vilket är ett steg mot mer granskningsbar AI-säkerhet.