Nytt Gmail-verktyg identifierar AI-skrivna mejl med 99,98% träffsäkerhet
Pangram har lanserat ett Gmail-tillägg som automatiskt märker mejl som antingen 'AI' eller 'Mixed' (delvis AI-skrivet) – och enligt vd Max Spero är träffsäkerheten hela 99,98 procent. Tanken är att hjälpa användare snabbt gallra inkorgen, men Spero erkänner öppet att hundra procent aldrig kommer att nås. Intressant att ett verktyg för att avslöja AI faktiskt självt bygger på AI-analys.
Djupdykning
Pangrams verktyg bygger på vad som kallas stilometrisk analys och statistiska mönster – AI-genererad text har tendenser att vara mer "genomsnittlig" än mänsklig text, med vissa ordval och meningsstrukturer som dyker upp lite för ofta. 99,98 procent träffsäkerhet låter imponerande, men med hundratals mejl i inkorgen innebär det ändå att fel kommer att hända, och det är värt att ha i bakhuvudet innan man börjar massradera. Det som de flesta missar i den här diskussionen är att problemet inte egentligen handlar om AI-text i sig – det handlar om att vi håller på att förlora förmågan att lita på om det finns en riktig människa bakom ett meddelande, och det är en fundamentalt annorlunda social situation än att bara ta emot dåligt skriven text. Paradoxalt nog kan verktyg som detta skapa en ny rörig arms race: skicka AI-mejl, använd AI-detektor, skicka bättre AI-mejl som undviker detektorn.