Digitala kognitiva tvillingar: nya AI-system som modellerar din hjärna kräver ny reglering
Forskare varnar för en ny typ av AI-system de kallar 'kognitiva digitala tvillingar' (CDT) – modeller som kontinuerligt uppdateras för att simulera en specifik persons tankesätt och fatta beslut i dennes ställe. Problemet är att befintlig AI-reglering, som EU:s AI-förordning, bara täcker datanvändning och automatiserade beslut – inte själva representationen av en persons kognition, vilket är det verkligt känsliga steget. Artikeln föreslår ett ramverk med fem principer (auktoritet, autonomi, tillgång, ansvarsskyldighet och tillgänglighet) och påpekar risker som 'skuggtvillingar' – CDT-versioner av dig som skapas utan din vetskap.
Djupdykning
Föreställ dig att din arbetsgivare, din bank, eller sjukvården inte längre behöver fråga vad du tycker — de har en mjukvarumodell av hur du tänker som kontinuerligt uppdateras från ditt beteende, din röst, dina rörelsemönster. Det är vad forskarna bakom den här artikeln kallar en "cognitive digital twin", och det är inte science fiction längre — det är dit vi är på väg när AI-assistenter som Copilot och Gemini börjar komma ihåg allt du gör och anpassa sig efter dig över tid. Problemet som artikeln pekar på, och som de flesta missar, är att befintliga regleringar som GDPR tänker på data som något du samlar in och behandlar — men en CDT är något fundamentalt annorlunda: det är en levande modell av din kognition som kan simulera dig, fatta beslut som du, och till och med "delta" i möten eller processer utan att du är med. Det är inte ett beslutsstödsystem som regleras av EU:s AI-act, det är en representation av dig själv som agerar i världen, och det kräver helt andra styrningsprinciper — därav det forskarna kallar "5A-ramverket" kring auktoritet, autonomi, åtkomst, ansvar och tillgänglighet. Den verkligt obehagliga implikationen är det de kallar "shadow twins": CDT:er som byggs upp om dig av tredje parter utan din vetskap, baserade på tillräckligt med data för att modellera ditt beslutsfattande — och som du aldrig kan bestrida för att du inte ens vet att de finns.