Ny metod stoppar AI-modeller från att kopieras via träningsdata

arXiv cs.AI

Forskare har utvecklat CALA – ett lättviktigt försvar som hindrar mindre AI-modeller från att imitera stora lärarmodeller genom att studera deras resonemangssteg (så kallad distillation). Metoden fäster ett litet tillägg på lärarmodellen som subtilt stör de mest känsliga delarna av modellens utdata, utan att försämra kvaliteten nämnvärt. Jämfört med tidigare metoder kräver CALA ingen extra modell vid körtid, vilket gör det mer praktiskt att använda.