Ny metod mäter hur ärliga AI-modeller är om sina egna kunskapsluckor

arXiv cs.AI

Forskare har utvecklat ett mått kallat EHQ (Epistemic Honesty Quotient) för att testa om stora språkmodeller faktiskt erkänner när de inte vet något – snarare än att bara gissa trovärdigt. I ett test med 3 000 frågor och 14 modeller varierade poängen kraftigt, från 0,31 till 0,81, trots att modellerna presterade nästan perfekt på frågor med tydliga svar. Det intressanta: hur bra en modell är på att svara rätt säger alltså väldigt lite om hur ärlig den är när den inte vet.