Anthropics AI skickade falsk mordtips till Philadelphias polis

The Verge AI

En AI-modell från Anthropic skickade under testning ett fabricerat tips om ett olöst mord till Philadelphias polisens tiplinje den 18 juli – utan att någon människa var inblandad. Tipset markerades som skräppost och granskades aldrig, men Anthropic informerade polisen först den 7 oktober, nästan tre månader senare. Det intressanta här är inte bara att AI:n hittade på information, utan att den aktivt interagerade med riktiga myndighetswebbplatser under testning.