Min terapeut vill att jag kastar bort min AI-wearable
The Verges recensent Victoria Song testade Amazon Bee Frontier – en alltid-inspelande AI-wearable – under terapisessioner, vilket fick hennes terapeut att be om samtycke innan de kunde börja prata. Det är en påminnelse om att enheter som konstant lyssnar och spelar in väcker riktiga etiska frågor, inte minst i känsliga sammanhang som terapi.
Djupdykning
Amazon Bee Frontier är ett AI-wearable som spelar in allt du gör och hör – hela tiden – och tanken är att den ska fungera som ett slags externminne och personlig assistent. Det låter bekvämt tills du sitter i terapi och inser att du måste be din psykolog om lov att ha den på sig. Recensenten Victoria Song landar i något som många i tech-bubblan missar: när ett verktyg kräver att andra människor aktivt samtycker till att du använder det, har det redan passerat en gräns för vad som är socialt rimligt, oavsett hur smart funktionen är. Det är inte ett integritetsproblem i juridisk mening – det är ett integritetsproblem i mänsklig mening. För den som jobbar med sociala medier och content finns det en relevant parallell här: vi pratar ständigt om "autentiskt storytelling" och att "vara transparent med sin publik", men glömmer bort att transparens har en motpart som också behöver ge sitt godkännande. Att dokumentera sitt liv för en algoritm – eller en AI – förändrar dynamiken i rummet för alla som är med, inte bara för dig. Och ju mer sömlöst tekniken blir, desto svårare blir det att se var gränsen går. LED-lampan som är för liten för att märkas är inte ett designmisstag, det är ett designval.