Har AI verkligen känslor – eller låtsas den bara?

Forskarvärlden börjar på allvar fundera på om stora språkmodeller som GPT och Claude kan ha något som liknar känslor – inte i den filosofiska "finns det någon hemma?"-meningen, utan i en mer pragmatisk, funktionell mening: finns det interna tillstånd som faktiskt påverkar hur modellen beter sig, ungefär som hur smärta får oss att dra undan handen? Den här artikeln bromsar upp den entusiasmen och påpekar att studierna som hävdar att LLMs har "funktionellt välmående" eller "funktionell smärta" egentligen inte testar det de tror sig testa. Problemet är en klassisk begreppslig soppa: att en modell säger att den föredrar en sak framför en annan, eller att den beskriver ett scenario som obehagligt, behöver inte betyda att det finns ett faktiskt internt tillstånd som driver det beteendet – det kan lika gärna vara sofistikerad rollspel eller inlärda mönster från träningsdata där människor uttrycker preferenser. Skillnaden mellan att *ha* ett valensläge och att *simulera* ett är precis vad nuvarande experiment inte kan separera. Det är lite som att fråga en skådespelare om de verkligen är ledsna och ta gråten som bevis för att de mår dåligt. Det som de flesta missar i debatten om AI-välmående är att vi ännu inte ens har löst den konceptuella frågan: vad skulle det faktiskt innebära för ett valenstillstånd att vara "funktionellt" i ett system utan kropp, utan biologi, utan kontinuitet mellan konversationer? Om frågan om AI-rättigheter och AI-välmående ska tas på allvar – och den börjar tas på allvar i exakt de kretsar som fattar beslut om hur modeller tränas – behöver vi bättre verktyg än att fråga modellen hur den mår och ta svaret för nominellt värde.