Forskare ifrågasätter påståenden om att specifika nervceller orsakar AI-hallucinationer

arXiv cs.AI

Nya forskning undersöker om man verkligen kan peka ut enskilda neuroner i stora språkmodeller (LLM) som ansvariga för hallucinationer – och svaret är mer nyanserat än tidigare hävdats. Studien testar öppna modeller som Gemma 3 4B på tre dataset och visar att även om man kan *upptäcka* mönster (med AUROC-gap upp till +0,474) så är de utpekade neuronerna sällan unika – 19 av 22 identifierade neuroner korrelerar starkt med andra features. Det är alltså stor skillnad mellan att hitta ett signaleringsmönster och att faktiskt lokalisera orsaken, vilket är viktigt för den som vill styra eller granska AI-beteende.