Nytt ramverk ska certifiera om AI är säker nog för att styra elnätet

arXiv cs.AI

Forskare har utvecklat ett matematiskt ramverk för att avgöra om AI-system – specifikt så kallad multi-agent reinforcement learning – är tillräckligt säkra för att driftsättas i elnätet, utan att behöva känna till hur AI-modellen fungerar inuti. Systemet testar AI:n mot tusentals scenarier och räknar sedan ut en statistisk övre gräns för hur ofta den kan fatta osäkra beslut, vilket ger nätoperatörer ett konkret ja/nej-besked. I ett praktiskt test med en AI-modell som samordnar 1 000 flexibla enheter (som t.ex. laddboxar eller värmepumpar) bekräftades att metoden håller vad den lovar.