Nytt system identifierar vilken AI-modell som skrivit en text

arXiv cs.AI

Forskare har utvecklat ATLAS, ett system som kan avgöra vilken AI-modell som genererat ett visst textstycke – användbart för att upptäcka fusk, modellpiratkopiering och cyberattacker. Systemet når 74,27% träffsäkerhet även när både ämnesområde och modellversion skiljer sig från träningsdatan, vilket är 9 procentenheter bättre än närmaste konkurrent. Intressant nog klarar ATLAS också av att lista ut vilken modell som använts som 'lärare' vid så kallad destillation (när en mindre modell tränas att efterlikna en större).