Metas AI-assistent Muse bygger detaljerade profiler på alla i ditt liv
Metas nya AI-assistent Muse skapar automatiskt profilsidor på viktiga personer i användarens liv – familj, vänner, kollegor – och fyller dem med information om var de bor, vad de jobbar med och till och med tidigare konflikter i relationen. Assistenten kan dessutom kopplas till meddelanden, bankkonton och hälsodata, vilket gör djupet i datainsamlingen anmärkningsvärd. Meta säger att användaren måste godkänna känsliga åtgärder och kan radera AI-minnen, men det är ändå värt att fundera på hur bekväm man är med att en AI kartlägger hela sitt sociala nätverk.
Djupdykning
Muse är Metas svar på frågan "vad händer om din AI-assistent faktiskt känner ditt liv?" – och svaret är tydligen att den bygger ett eget CRM-system (tänk kundregister, fast för dina nära och kära) över alla människor du bryr dig om. Det som sticker ut i forskarnas granskning är inte att AI-assistenter samlar data, det gör de alla, utan att Muse aktivt strukturerar den informationen i profiler per person och kopplar ihop den med bankdata och hälsoinformation. De flesta tänker på AI-assistenter som sökmotorer med personlighet, men Muse är mer som en privatdetektiv som jobbar åt dig och som aldrig glömmer ett enda samtal. Metas argument om godkännanden och aktivitetsloggar låter rimligt på pappret, men det förutsätter att användaren faktiskt förstår vad de säger ja till – och historiskt sett har Metas relation till "informerat samtycke" varit generöst tolkat. Det verkliga problemet är att de människor vars information lagras, din partner, din kollega, din mamma, aldrig tillfrågas om de vill bli kartlagda i någon annans AI-minne.