Forskare undersöker om stora språkmodeller faktiskt har 'övertygelser'

arXiv cs.AI

En ny studie från arXiv testar om abstrakta begrepp som 'övertygelser' faktiskt är användbara för att beskriva hur stora språkmodeller beter sig – inte bara som metafor, utan som mätbar intern variabel. Resultaten visar att mer kapabla modeller faktiskt låter sig beskrivas som att de 'håller övertygelser', och att modellens förutsägbarhet baserat på dessa infererade övertygelser följer samma kurva som den allmänna förmågenivån. Det är en subtil men viktig distinktion: om modeller verkligen har något som liknar övertygelser påverkar hur vi mäter och hanterar skadligt beteende i AI-system.