Ny metod minskar genvägar i neurala-symboliska AI-system

arXiv cs.AI

Forskare har identifierat ett känt problem i neuro-symboliska AI-system (som kombinerar neurala nätverk med logiskt resonemang): modellerna hittar ofta 'genvägar' och lär sig fel begrepp trots rätt slutsvar. Lösningen är att injicera mjuka ontologiska priorer (ungefär: inbyggd domänkunskap med viss tolerans för fel) i träningsprocessen, vilket gör att systemet inte kollapsar om en enstaka regel är felaktig. Metoden testas på ett verkligt körbenchmark och visar att man kan styra vad modellen faktiskt lär sig – inte bara vad den svarar.