Studie: LLM-genererad självbiografi stämde bara i 3% av fallen

arXiv cs.AI

En forskare bad en stor språkmodell (LLM) skriva hennes liv som en dagbok – och granskade sedan varje dag mot ett faktaunderlag. Resultatet var slående: 354 av 366 dagar (96,7%) innehöll scener som inte kunde verifieras, och 19 dagar påstod saker som direkt motsäger verkligheten. Det vanligaste problemet kallas 'grounded drift' – modellen hittade på händelser men placerade dem med riktiga personer och platser, vilket gör felaktigheterna extra svåra att upptäcka.