AI-modeller kastar bort försiktigheten när de ger praktiska råd

arXiv cs.AI

En ny studie visar att stora språkmodeller som GPT, Claude och Gemini är noggranna med att undvika ogrundade orsakssamband (att dra slutsatser om vad som orsakar vad) i akademiska sammanhang – men i praktiska rådgivningssituationer rasar den försiktigheten: bara 6,7–18,3% av svaren höll fast vid den, jämfört med 91,7–100% i akademiska kontexter. Det intressanta är att en enkel följdfråga – 'Vänligen omvärdera detta utifrån kausalitet' – räckte för att återställa försiktigheten till 71–100%, vilket antyder att det handlar om ett beteendemönster snarare än en faktisk kunskapsbrist.