Nytt ramverk vill skapa ordning i kaotisk forskning om AI-glömska

arXiv cs.AI

Forskare har lanserat Open-MMUnlearning, ett öppet ramverk för att jämföra metoder som får AI-modeller att 'glömma' specifik information – användbart när träningsdata visar sig kränka integritet eller upphovsrätt. Ramverket samlar 12 olika avglömningsmetoder och 5 testmiljöer under ett gemensamt protokoll, något som saknats i ett annars splittrat forskningsfält. Bland de utvärderade metoderna presterar GD och MIP-Editor bäst totalt sett, medan måttet BLEU visar sig vara mest tillförlitligt för att mäta hur väl glömskan faktiskt fungerar.