Digitala kognitiva tvillingar: nya AI-system som modellerar din hjärna kräver ny reglering
Forskare varnar för en ny typ av AI-system de kallar 'kognitiva digitala tvillingar' (CDT) – modeller som kontinuerligt uppdateras för att simulera en specifik persons tankesätt och fatta beslut i dennes ställe. Problemet är att befintlig AI-reglering, som EU:s AI-förordning, bara täcker datanvändning och automatiserade beslut – inte själva representationen av en persons kognition, vilket är det verkligt känsliga steget. Artikeln föreslår ett ramverk med fem principer (auktoritet, autonomi, tillgång, ansvarsskyldighet och tillgänglighet) och påpekar risker som 'skuggtvillingar' – CDT-versioner av dig som skapas utan din vetskap.
Djupdykning
Föreställ dig ett AI-system som inte bara känner till dina preferenser, utan aktivt modellerar hur du tänker – och sedan fattar beslut eller deltar i möten å dina vägnar när du inte är tillgänglig. Det är kärnan i det forskarna kallar "cognitive digital twins", en klass av system som går betydligt längre än en vanlig AI-assistent genom att bygga en löpande, uppdaterad simulering av en specifik persons kognitiva mönster. Det som gör detta svårt att reglera är att befintliga ramverk – GDPR, AI Act och liknande – primärt tänker på data och beslut som slutprodukter, medan CDT:s problematik uppstår redan i representationslagret, alltså i hur din "kognitiva modell" byggs, lagras och används innan något beslut ens fattas. Forskarnas begrepp "shadow twins" är särskilt obehagligt: en CDT kan skapas och användas av en arbetsgivare, plattform eller myndighet utan att du vet om det, baserat på beteendedata som du aldrig aktivt lämnat. Det de flesta missar i debatten om AI-personifiering är att risken inte primärt handlar om att AI:n gör fel saker i ditt namn – utan om att din kognitiva representation i sig blir en infrastruktur som andra kontrollerar och tjänar pengar på. En CDT som används i en försäkringskontext eller rekryteringsprocess slutar vara ett verktyg för dig och blir ett verktyg mot dig, och det utan att du nödvändigtvis kan bestrida eller ens se den modell som representerar "dig".