Google drog tillbaka AI-funktion i Earth efter bara ett dygn
Google lanserade i torsdags en funktion i Google Earth där användare kunde lägga till byggnader i satellitbilder via AI-verktyget Nano Banana 2 – men tog bort den knappt 24 timmar senare efter kritik om att den kunde användas för desinformation. Google medger att de sett folk dela AI-genererade bilder som bryter mot regelverket och säger att de behöver bygga in starkare skyddsmekanismer innan funktionen kan återlanseras.
Djupdykning
Google lanserade alltså ett AI-verktyg som låter användare rita in byggnader direkt i satellitbilder – och tog sedan bort det inom 24 timmar. Det handlar om geospatial data, alltså kartinformation kopplad till faktiska geografiska koordinater, vilket gör manipulerad data extra farlig jämfört med en vanlig photoshoppad bild: satellitbilder används av journalister, militär, humanitära organisationer och forskare för att verifiera vad som faktiskt händer på marken i konfliktområden och katastrofzoner. Det folk missar i den här debatten är att problemet inte är AI-genereringen i sig, utan att Google Earth har ett inbyggt förtroendekapital som få andra plattformar har – när något ser ut att komma därifrån uppfattas det som faktabaserat snarare än kreativt innehåll. Googles uttalande om "starkare skyddsmekanismer" är lite av en gåta eftersom det tekniskt sett är extremt svårt att hindra folk från att ta en skärmdump och sprida den utan kontext – du kan inte vattenmärka bort ond vilja. Det här är egentligen ett symptom på ett bredare problem: AI-verktyg integreras i plattformar med etablerat förtroende innan man tänkt igenom hur det förtroendet kan utnyttjas.