Kunskapsgrafer och logik: nuvarande AI-modeller misslyckas med grundläggande konsekvens

arXiv cs.AI

Forskare har testat om AI-modeller som fyller i luckor i kunskapsbaser (strukturerade faktadatabaser) faktiskt respekterar logikens regler – och svaret är nej. De definierar fyra nivåer av 'logisk trovärdighet' och visar att ingen av de testade modellerna klarar hela skalan: en modell kan ranka fakta korrekt utan att förstå skillnaden mellan en omöjlig och en plausibel slutledning. Det är lite som att ha en assistent som gissar rätt svar men av fel anledning.