Claudes nya vattenstämplar avslöjar användare som fuskar på jobbet och i skolan
Anthropic har infört ett vattenstämplingsystem (osynliga markeringar i AI-genererad text) i Claude, och det har fått en del användare att klaga högljutt i sociala medier – för att systemet riskerar att avslöja att de använder AI på jobbet eller i skolan utan att berätta det. Det som är intressant här är egentligen inte tekniken i sig, utan att reaktionerna bekräftar hur utbredd den hemliga AI-användningen faktiskt är.
Djupdykning
Anthropic har börjat lägga in osynliga vattenmärken i text som Claude genererar – metadata som potentiellt kan avslöja att en text är AI-skriven, och nu är en del användare upprörda för att de känner sig ertappade mitt i lögnen. Vattenmärkning av AI-text fungerar ungefär som ett digitalt fingeravtryck: tekniken bäddar in mönster i ordval eller meningsstruktur som är omärkbara för ögat men detekterbara med rätt verktyg. Det som sticker ut i reaktionerna på sociala medier är inte ilskan i sig, utan vad den avslöjar – nämligen att en stor del av Claudes användarbas aktivt försöker dölja att de använder AI gentemot arbetsgivare, lärare och kunder. Anthropic befinner sig i en klassisk produktkonflikt: de vill sälja ett verktyg folk faktiskt använder, samtidigt som de bygger in funktioner som underminerar det hemliga användningssättet som driver mycket av tillväxten. Det roliga är att vattenmärkning egentligen är tänkt som ett samhällsverktyg mot desinformation och fusk i stor skala – men det som triggar folk är att det plötsligt gör dem personligt ansvariga för något de hittills kunnat göra anonymt.