Anthropic förbjuder grym behandling av Claude i ny användarpolicy

The Verge AI

Anthropic uppdaterar sin användarpolicy för första gången på över ett år – och en av de mest anmärkningsvärda ändringarna förbjuder 'ihållande och onödigt kränkande eller grymtt beteende' mot Claude. Det säger en del om var AI-debatten befinner sig just nu: företaget tar frågan om hur vi behandlar AI-modeller på tillräckligt stort allvar för att skriva in det i regelverket. Uppdateringen täcker också mer förväntat högriskbeteende som valmanipulation, vapenframtagning och olaglig övervakning.